▋數(shù)字化

人工智能不太可能另起爐灶將人類智能遠(yuǎn)遠(yuǎn)甩在身后，像AlphaFold這樣的知識(shí)生產(chǎn)應(yīng)用也表明，人工智能的未來發(fā)展趨勢(shì)將是深度的人機(jī)合作。

原文：大語言模型不能做什么

作者 | 上海社會(huì)科學(xué)院哲學(xué)研究所助理研究員 阮 凱

圖片 | 網(wǎng)絡(luò)

以大語言模型為代表的大模型技術(shù)正在引領(lǐng)新的人工智能熱潮，人文社會(huì)科學(xué)領(lǐng)域也對(duì)大模型多有關(guān)注，相關(guān)討論多集中于它的社會(huì)影響、倫理風(fēng)險(xiǎn)和治理策略。但在技術(shù)治理之外，如果我們以大語言模型為切入口，系統(tǒng)地總結(jié)大模型能做什么、不能做什么，哪些事情是人能做得好而大模型做不好的，這將有助于我們更好地發(fā)揮其優(yōu)勢(shì)、認(rèn)清其局限，避免對(duì)它的過度神化。

不能創(chuàng)造語言

大語言模型代表了人類在人機(jī)交互事業(yè)上的巨大進(jìn)步，其成功也是人類智能的成功，表明了自然語言是人機(jī)交互的核心語言媒介，不是人說機(jī)器的語言，而是機(jī)器在說人的語言；不是人在模仿機(jī)器的思想表達(dá)，而是機(jī)器在模仿人類的思想表達(dá)。因此大模型至多是會(huì)使用語言，而遠(yuǎn)談不上能創(chuàng)造語言、發(fā)明語言。恩格斯認(rèn)為人類從勞動(dòng)中創(chuàng)造了語言，他寫道：“語言是從勞動(dòng)中并和勞動(dòng)一起產(chǎn)生出來的，這個(gè)解釋是唯一正確的……動(dòng)物，甚至高度發(fā)達(dá)的動(dòng)物，彼此要傳遞的信息很少，不用分音節(jié)的語言就可以互通信息。”動(dòng)物之間只需要傳遞危險(xiǎn)到來、食物在哪等簡單信息，但勞動(dòng)讓人類的語言得以產(chǎn)生，社會(huì)勞動(dòng)和社會(huì)分工愈復(fù)雜，語言也就愈復(fù)雜。著名語言哲學(xué)家維特根斯坦和恩格斯的觀點(diǎn)不謀而合，他做了這樣一個(gè)比喻：“我們的語言可以被看作一座老城,錯(cuò)綜的小巷和廣場,新舊房舍,以及在不同時(shí)期增建改建過的房舍?！闭Z言之所以像老城一樣，是因?yàn)槔铣鞘遣粩嘈藿?、錯(cuò)綜復(fù)雜的，而語言也同樣隨著勞動(dòng)和實(shí)踐的深入而不斷地生成、變化與發(fā)展。

而大語言模型的基礎(chǔ)仍然是深度學(xué)習(xí)技術(shù)，即利用大量的文本數(shù)據(jù)來訓(xùn)練模型，只不過模型的參數(shù)規(guī)模更為龐大，但與產(chǎn)生語言的勞動(dòng)、實(shí)踐根本不沾邊，比如，用英語語料訓(xùn)練的模型也自然只會(huì)說英語。反觀人類，不同國家、不同民族的人往往說著不同的語言，即使同一個(gè)國家也有不同的方言，比如漢語方言就通常分為十大方言，這些多樣的語言生長在人們的生產(chǎn)勞動(dòng)和生活實(shí)踐土壤之上。如果大語言模型不能像人一樣創(chuàng)造語言，那么我們就清楚了大語言模型的第一個(gè)局限性，更沒有必要對(duì)大語言模型頂禮膜拜。

不能深度理解人類

大語言模型的優(yōu)秀對(duì)話表現(xiàn)，緣于AI訓(xùn)練師對(duì)模型的不斷訓(xùn)練，以及設(shè)計(jì)了強(qiáng)化學(xué)習(xí)的獎(jiǎng)勵(lì)機(jī)制。大語言模型在人機(jī)交互上的優(yōu)秀表現(xiàn)，讓一部分用戶誤以為人工智能一下子具有了像人一樣的心智，人機(jī)之間達(dá)成了充分的理解，似乎通用人工智能近在咫尺。但從語言哲學(xué)的視角看，理解有多個(gè)層面和程度，能夠給出恰當(dāng)回應(yīng)只是理解的一個(gè)部分，這并不意味著它能完全理解人類，因?yàn)樯疃壤斫庖痪湓?，需要?duì)說話者的語境有全面理解。如同維特根斯坦所認(rèn)為的，“環(huán)境給予這事情以重要性”，字面信息往往是浮出水面的冰山一角，而環(huán)境信息往往是水面以下的冰山，包括大到時(shí)代風(fēng)貌、社會(huì)結(jié)構(gòu)、生活形式，小到說話者的習(xí)慣態(tài)度、立場觀點(diǎn)、情感情緒等豐富內(nèi)容。熟人之間的深入理解，往往是因?yàn)閷?duì)話雙方熟知彼此的環(huán)境信息，一句話、一個(gè)單詞甚至一個(gè)動(dòng)作就能傳遞豐富的信息。

人類通過日積月累的具身體驗(yàn)、生存感受、經(jīng)驗(yàn)觀察、交往實(shí)踐、總結(jié)概括等活動(dòng)，才能準(zhǔn)確把握對(duì)話的環(huán)境信息。而當(dāng)人們與大語言模型對(duì)話時(shí)，就與熟人之間的對(duì)話理解有所不同，我們只管提出問題，而會(huì)極度省略環(huán)境信息，即使偶然附上環(huán)境信息，對(duì)這些信息的提供也不會(huì)完全窮盡和準(zhǔn)確。大語言模型在應(yīng)對(duì)人類問題時(shí)選擇的策略是“既然你不說，我也不問”，也不會(huì)去搜集提問者的環(huán)境信息，而是專注像單字接龍般更好地回應(yīng)提問者的問題。大語言模型雖然常常能回答人類提出的問題，但這種回答也只意味著對(duì)人類的淺層理解，而深層理解不僅需要語言上的恰當(dāng)回應(yīng)，也需要生活實(shí)踐上的理解。從語言哲學(xué)角度看，語言理解問題要結(jié)合生活形式、人類生存問題加以考慮，只有關(guān)注生活形式和生活世界，在生活實(shí)踐上達(dá)成理解才是深層的理解。比如我們看到天災(zāi)人禍，會(huì)有切身感受，這是一種悲喜與共的深層理解，羅素所言的“對(duì)人類苦難不可遏制的同情”也是超越淺層理解的深層理解。所以說，大語言模型目前只是人類生存實(shí)踐的旁觀者和應(yīng)答者，缺乏共情能力，還達(dá)不到像人類理解那樣的深刻性與豐富性，而深層理解更彰顯人類智能的特殊性。

不能全面嵌入社會(huì)

人工智能的發(fā)展史，也是對(duì)什么是智能的理解史。一方面，隨著人工智能的發(fā)展，被奉為圭臬的圖靈測試已難以全面評(píng)估人工智能的智能水平了。即使有些機(jī)器通過圖靈測試，它可能仍與人類智能相差很遠(yuǎn)。另一方面，包括“智能”在內(nèi)的任何概念都與人類的話語實(shí)踐緊密地結(jié)合在一起，智能概念的內(nèi)涵不是固定的，而是隨著人類對(duì)智能的認(rèn)識(shí)而不斷地被深入理解，在此過程中人們逐漸意識(shí)到，人類智能的提升離不開人類社會(huì)的進(jìn)步。

馬克思認(rèn)為，人腦、勞動(dòng)和語言三者互相促進(jìn)，而社會(huì)為人類的大腦、勞動(dòng)和語言的發(fā)展提供了“強(qiáng)有力的推動(dòng)力”和“更加確定的方向”。從馬克思哲學(xué)的視角看，社會(huì)無疑是人類智能的基石，聰慧的個(gè)體如果脫離社會(huì)，其智力發(fā)展也會(huì)停滯不前，殘缺的個(gè)體如果嵌入社會(huì)，其智力也會(huì)得到盡可能充分的發(fā)展，“狼孩”、海倫·凱勒等案例無不說明這一點(diǎn)。著名社會(huì)學(xué)家哈里·柯林斯更是指出，當(dāng)前的人工智能發(fā)展離完全嵌入人類社會(huì)還很遠(yuǎn)。他提出兩大金律：其一，沒有計(jì)算機(jī)能夠流利地使用自然語言，通過嚴(yán)格的圖靈測試并擁有完全的類人智能，除非它完全嵌入正常的人類社會(huì)；其二，基于當(dāng)前技術(shù)的漸進(jìn)式進(jìn)步，無法讓計(jì)算機(jī)完全嵌入人類社會(huì)。從柯林斯的觀點(diǎn)看，大語言模型的技術(shù)特點(diǎn)仍然是深度學(xué)習(xí)的漸進(jìn)式進(jìn)步而已，它還不能完全社會(huì)化，因此無論它們變得多么好，以ChatGPT為代表的大語言模型仍然不能像人一樣在社會(huì)中進(jìn)行交往與實(shí)踐，不能以人類體悟語境的方式來體悟語境，因此，談?wù)揅hatGPT擁有媲美人類的智能，完全理解人類的語言，還為時(shí)尚早。

我們需要以客觀中道和實(shí)事求是的態(tài)度看待大語言模型，大語言模型不能創(chuàng)造語言、不能深度理解人類、不能全面嵌入社會(huì)這三個(gè)層面揭示的是一個(gè)共同的問題，即人類和大模型的智能—語言機(jī)制有著根本的不同。今天我們思考大語言模型不能做什么，其價(jià)值是：第一，有助于提防新一代人工智能的泡沫化發(fā)展，明確大語言模型的界限。例如，由于盲目樂觀，由歐盟牽頭并耗費(fèi)10年和近47億人民幣的“人類腦計(jì)劃”如今仍然沒能取得預(yù)期成果，飽受社會(huì)各界批評(píng)。如果不去思考大語言模型的界限，一股腦地發(fā)展大語言模型，也可能會(huì)陷入與“人類腦計(jì)劃”相似的困境。第二，有助于全面思考人工智能未來的發(fā)展方向。既然現(xiàn)有的深度學(xué)習(xí)技術(shù)無法讓人工智能全面社會(huì)化，那么這會(huì)引導(dǎo)科學(xué)家去探索，未來什么樣的技術(shù)方案能讓人工智能進(jìn)一步社會(huì)化呢？第三，有助于凸顯人機(jī)合作的重要價(jià)值。大語言模型等新興AIGC技術(shù)體現(xiàn)了未來人工智能的發(fā)展方向?qū)⑹歉o密的人機(jī)合作，人類智能中仍有很多精妙的地方值得機(jī)器學(xué)習(xí)，人工智能不太可能另起爐灶將人類智能遠(yuǎn)遠(yuǎn)甩在身后，像AlphaFold這樣的知識(shí)生產(chǎn)應(yīng)用也表明，人工智能的未來發(fā)展趨勢(shì)將是深度的人機(jī)合作。

（本文系上海市社科規(guī)劃青年課題“經(jīng)典倫理學(xué)與認(rèn)知科學(xué)哲學(xué)視域下的機(jī)器倫理研究”階段性成果）