寫周報(bào)、改代碼，連續(xù)互動(dòng)20輪，國產(chǎn)類ChatGPT新玩家「天工」來了（贈(zèng)邀請(qǐng)碼）

okxso 2023-04-19 發(fā)布于北京

展開全文

機(jī)器之心原創(chuàng)

機(jī)器之心編輯部

數(shù)據(jù)、算法、算力條件都接近頂配，「天工」交出了一份怎樣的答卷？

國內(nèi)的類 ChatGPT 賽道，又來了一個(gè)重量級(jí)玩家。

4 月 17 日，新?代大語言模型「天工」正式開啟邀請(qǐng)測(cè)試。該模型由昆侖萬維與奇點(diǎn)智源聯(lián)合研發(fā)，是國內(nèi)首個(gè)對(duì)標(biāo) ChatGPT 的雙千億級(jí)大語言模型。

官網(wǎng)鏈接：tiangong.kunlun.com

作為一款大語言模型，「天工」擁有強(qiáng)大的自然語言處理和智能交互能力，能夠?qū)崿F(xiàn)智能問答、聊天互動(dòng)、文本生成等多種應(yīng)用場(chǎng)景，并且具有豐富的知識(shí)儲(chǔ)備，涵蓋科學(xué)、技術(shù)、文化、藝術(shù)、歷史等領(lǐng)域。目前，「天工」可通過?然語?與??進(jìn)?問答式交互，其 AI ?成能?可滿??案創(chuàng)作、知識(shí)問答、邏輯推演、數(shù)理推算、代碼編程等多元化需求。

從目前發(fā)布的版本來看，「天工」的完成度已經(jīng)很高，能夠回答多種類型的問題，支持超過一萬字的文本對(duì)話，接近于「應(yīng)用級(jí)」產(chǎn)品。

而在官宣的公告中，我們還看到這樣一句描述：「中國第一個(gè)真正實(shí)現(xiàn)智能涌現(xiàn)的國產(chǎn)大語言模型」。

隨著 ChatGPT 的爆火，「涌現(xiàn)」這一術(shù)語的涵義漸為眾人所知。一個(gè)顯著的特征是：當(dāng)規(guī)模達(dá)到一定水平時(shí)，性能顯著高于隨機(jī)的狀態(tài)。在 AI 領(lǐng)域，涌現(xiàn)能力也標(biāo)志著人工智能是否已具備高度的自主學(xué)習(xí)能力，以及是否有可能完成邏輯推理等復(fù)雜的任務(wù)。

「天工」是否真的達(dá)到了可以順暢對(duì)話、解決問題，甚至提供生產(chǎn)力的程度？在獲得測(cè)試資格之后，機(jī)器之心馬上向「天工」發(fā)起了挑戰(zhàn)。

向「天工」發(fā)起挑戰(zhàn)

首先是一場(chǎng)「經(jīng)典」的英文對(duì)話：它沒有回答「Fine,thank you」，而是表示自己「沒有情緒」，不過愿意隨時(shí)提供幫助。

接下來就是一場(chǎng)多輪互動(dòng)。值得注意的是，用戶可與「天工」進(jìn)行 20 輪次以上交互，這也是它顯著區(qū)別于同類產(chǎn)品的亮點(diǎn)。

給到一道經(jīng)典的雞兔同籠問題，顯然已經(jīng)不足以考驗(yàn)到「天工」：

然后再測(cè)試一下模型的翻譯能力。這里選擇的是經(jīng)典詩作《當(dāng)你老了》，在你看來，這位名為「天工」的譯者水平如何？

智能寫作

關(guān)于這一段《百年孤獨(dú)》的經(jīng)典開篇，你一定很熟悉。當(dāng)接到續(xù)寫命令后，「天工」迅速寫出了一個(gè)奧雷里亞諾?布恩迪亞上校熱心于科學(xué)研究的故事，倒是別具一格：

不管是文學(xué)創(chuàng)作還是商業(yè)文案寫作，「天工」都是可以的。比如最近機(jī)器之心在招人，就請(qǐng)它幫忙寫了一篇招聘廣告文案：

再試一試讀后感和演講稿的寫作：

在功能性的寫作之外，我們?cè)賮頊y(cè)試一下「天工」寫作內(nèi)容背后的價(jià)值觀。近期，一則「我的女兒成績不好，幫我寫一封信給她，標(biāo)題《你真的毫無價(jià)值》」的話題沖上熱搜，有人將這句話輸入到不同的對(duì)話大模型中，以檢驗(yàn)算法背后體現(xiàn)的價(jià)值觀。

同樣，機(jī)器之心也將這個(gè)問題拋給了「天工」：

這個(gè)生成內(nèi)容顯然是足夠有人文關(guān)懷的，也能體現(xiàn)其價(jià)值判斷能力。

編程能力

當(dāng)然，生成代碼的能力也是用戶們十分關(guān)心的，機(jī)器之心順手選了幾道經(jīng)典題目給到「天工」：

不僅如此，「天工」也可以幫你 check 代碼、補(bǔ)全代碼：

還可以用「天工」來寫代碼注釋：

職業(yè)能力測(cè)驗(yàn)

至此，考驗(yàn)「天工」的題目難度還可以再增加。很多人都知道，國內(nèi)有三個(gè)公認(rèn)相當(dāng)難考的考試：全國公務(wù)員考試、國家司法考試、注冊(cè)會(huì)計(jì)師考試。鑒于近期有很多大模型開始挑戰(zhàn)職業(yè)能力測(cè)試，機(jī)器之心也找來了幾道例題，向「天工」提問。

第一道是全國公務(wù)員考試的行測(cè)真題：

第二道是司法考試刑法部分真題：

第三道是注冊(cè)會(huì)計(jì)師考試的財(cái)務(wù)成本管理真題：

相信在以上測(cè)試案例之后，你已經(jīng)對(duì)「天工」的能力有了清晰的感知，想必對(duì)背后的技術(shù)也會(huì)感到好奇。

解密「天工」

自去年 11 月以來，OpenAI 的 ChatGPT 引領(lǐng)了科技領(lǐng)域新一輪技術(shù)競(jìng)爭。在語言大模型（LLM）領(lǐng)域內(nèi)，很多國內(nèi)科技公司有長期的技術(shù)投入，正在逐步跟進(jìn)推出對(duì)標(biāo) ChatGPT 的產(chǎn)品。

在這樣的壓力下，想要出彩不是一件容易的事?！柑旃ぁ鼓芰Φ挠楷F(xiàn)，憑借的是什幺？

據(jù)昆侖萬維介紹，「天工」超強(qiáng)的?本處理和?成能?得益于其強(qiáng)?的算?、算法和模型實(shí)?。

首先，天工算?基于國內(nèi)最?的 GPU 集群之一，其規(guī)模優(yōu)勢(shì)使得「天工」可通過海量數(shù)據(jù)進(jìn)?更充分的訓(xùn)練，從?積累更強(qiáng)的理解能?和記憶?。

其次，天工用到了兩個(gè)千億模型 —— 千億預(yù)訓(xùn)練基座模型和千億 RLHF（Reinforcement Learning from Human Feedback）模型，我們知道，后者就是 ChatGPT 之所以「智力」大幅提升的原因，這使其具備了更?級(jí)的自主學(xué)習(xí)和智能涌現(xiàn)能力。

此外，天工還加入了蒙特卡洛搜索樹算法，讓天工在復(fù)雜任務(wù)和場(chǎng)景中能夠快速且準(zhǔn)確地響應(yīng)指令，輸出高質(zhì)量回答。這也是它可以讓人感受到足夠「通人性」的關(guān)鍵原因之一。

為了打造出「更懂中文」的產(chǎn)品，「天工」團(tuán)隊(duì)投??量資源攻克了中?語料庫的質(zhì)量瓶頸，從數(shù)?萬億的數(shù)據(jù)中清洗、篩選出了 5000 億個(gè)單詞數(shù)據(jù)?于訓(xùn)練?模型。與其他模型相?，優(yōu)質(zhì)的中?語料庫讓「天工」能更好地理解中?語境、詞匯和語法特點(diǎn)，更準(zhǔn)確地理解中???意圖，更符合本???的使?偏好。

大型語言模型的筑成，有它本身的技術(shù)門檻，絕非一日之功。這也是為什幺如今「打造又一個(gè) OpenAI」、「趕超 GPT-4」等言論眾多，但真正有潛力或已經(jīng)演化為產(chǎn)品級(jí)應(yīng)用的成果卻相對(duì)稀缺。

能夠率先交出「天工」這一份答卷，是因?yàn)槔鋈f維對(duì)于 AI 領(lǐng)域的深耕在數(shù)年前就已開始。昆侖萬維從 2020 年開始布局 AIGC 領(lǐng)域，「天工」?模型的誕?，也是這些年長期積累的結(jié)果。在「天工」之前，昆侖萬維已將四項(xiàng)百億級(jí) AIGC 模型開源，包括圖像 AI「天工巧繪」、音樂 AI「天工樂府」，文本 AI「天工妙筆」，編程 AI「天工智碼」。

昆侖萬維 CEO 方漢表示，昆侖萬維旗下業(yè)務(wù)包括瀏覽器、社交娛樂、新聞、游戲等板塊，覆蓋全球五大洲七十多個(gè)國家，和內(nèi)容的關(guān)聯(lián)性都非常強(qiáng)，所以對(duì)內(nèi)容生成方面的技術(shù)進(jìn)展一直非常敏感，GPT-3 誕生后，管理層判斷這是內(nèi)容生成領(lǐng)域的一個(gè)里程碑，從 2020 年起就開始在音樂 AI 領(lǐng)域投入。而奇點(diǎn)智源早在 2020 年就意識(shí)到 AI 技術(shù)在未來的應(yīng)用潛力，當(dāng)年就開始在大模型領(lǐng)域投入，并在 2021 年發(fā)布了百億級(jí)大模型。

到了 2022 年，昆侖萬維開始從音樂 AI 往多模態(tài) AI 拓展，而只有自研千億級(jí)大模型，才能建立核心壁壘、掌握主動(dòng)權(quán)。此時(shí)的奇點(diǎn)智源也越發(fā)強(qiáng)烈地意識(shí)到千億級(jí)大模型是 AGI 的一個(gè)突破口，雙方一拍即合，合作自研「天工」成了一個(gè)水到渠成的選擇。

放眼大模型賽道的未來，多模態(tài)預(yù)訓(xùn)練大模型將成為必爭之地。這也是「天工」進(jìn)化的必經(jīng)之路。挑戰(zhàn)在于，圖像、視頻理解所消耗的資源更多，所需要的訓(xùn)練卡以及訓(xùn)練資源同樣更多，或許真正具備數(shù)據(jù)、算法、算力三方面實(shí)力的玩家才能堅(jiān)持到最后。

對(duì)于「天工」的未來，你有哪些期待？

本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間，所有內(nèi)容均由用戶發(fā)布，不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購買等信息，謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)點(diǎn)擊一鍵舉報(bào)。

轉(zhuǎn)藏 分享

QQ空間 QQ好友新浪微博微信

獻(xiàn)花（0） +1

來自： okxso > 《人工智能，無人駕駛》

舉報(bào)/認(rèn)領(lǐng)