2022年底，OpenAI 推出了新一代的人工智能大語言模型ChatGPT，成為全球用戶迅速破億的現(xiàn)象級應用。相比傳統(tǒng)人工智能技術，以ChatGPT為代表的大模型表現(xiàn)出強大的語言理解交互能力、多領域內容生成能力、快速進化的涌現(xiàn)能力以及弱人工智能向強人工智能持續(xù)邁進的前景，引起了各界的強烈關注。隨著智能時代數(shù)字世界和物理世界不斷深度融合，持續(xù)演進的大模型技術深度嵌入國內和國際的政治、經(jīng)濟、社會諸領域成為大勢所趨，對這一高歌猛進的技術的潛在政治和安全風險進行思考也日益緊迫。

　　政治決策面臨新風險

　　數(shù)字時代的公共空間分散化和碎片化問題日益凸顯。大語言模型基于互聯(lián)網(wǎng)數(shù)據(jù)處理和深度學習技術，在未來的政治過程中能夠通過充分匯總信息、確定目標集合、設計合理方案等方式，有力地輔助國家對多元社會進行系統(tǒng)性整合，加強政治決策的便捷性、科學性和包容性。然而，大模型技術增強國家治理能力的同時，也給政治決策帶來一些隱含的風險。

　　一是政治決策機制重塑。伴隨著大模型的普及化與應用化程度的深入，大模型憑借其無與倫比的信息收集處理能力，配合先進的算法，處理信息后給出的決策建議在相當程度上具有整合性和便利性，將不可避免地使某些政策制定者依賴大模型進行政治決策。在這種情況下，大模型實際上已經(jīng)部分承擔了政策建議甚至政治決策職能。如果政策制定者長期依賴大模型技術而不注重自身政治素養(yǎng)的提高，那么將不可避免地出現(xiàn)政策創(chuàng)新力匱乏的問題，進而降低整個國家的決策水平。

　　二是政治決策忽視偏好問題。大模型畢竟只是一種技術，在收集信息時只是出于單純的收集目的。盡管大模型處理海量數(shù)據(jù)資源，且模型靈敏度會依靠日后訓練與數(shù)據(jù)填補而提升，但政治決策對象畢竟是具備情感偏好的生命體，他們所喜好的政策未必就是最符合程序計算的政策。這就出現(xiàn)了一個極困難的問題——人工智能系統(tǒng)可能始終無法完全理解政治決策對象的情感訴求。因此，大模型依據(jù)慣例做出的政治建議或決策存在回應性不足的風險。

　　三是政治信任降低的風險。大模型深度進入政治生活后，無論是政治決策者抑或是政治訴求表達者均可利用該模型從事政治活動。在這種情況下，由于大模型輸入語言的類人化程度極高，政治決策者難以判斷收到的政治訴求是否出自真正的“人”之口，政治訴求表達者難以判斷收到的政策回應是否真的源于“官員”本人，此時可能出現(xiàn)政治決策者與訴求表達者的雙向信任危機。

　　輿論傳播面臨新挑戰(zhàn)

　　大模型作為革命性的人工智能技術，將發(fā)揮顯著的社會賦權功能，進一步提升普通民眾在公共議題上的話語權，促進公眾意見的傳播和影響，推動社會群體和社會組織的組織能力提升。但由于大模型對公眾意見和思想強大的影響力，也給國家內部和國際社會的輿論傳播和治理帶來不小的挑戰(zhàn)。

　　第一，錯誤信息和觀點將潛移默化引導公眾輿論。大模型的算法和數(shù)據(jù)具有魯棒性、透明度、可解釋性、可靠性欠缺等問題，“大數(shù)據(jù)+海量參數(shù)+大算力”提升了模型的總體擬人表現(xiàn)，但并不是和人一樣理解與思考，有時無法從事實上區(qū)分信息的真實性，難以識別數(shù)據(jù)隱含的偏見和毒性，從而產(chǎn)生虛假的、誤導性的或低質量的結果。這些錯誤和偏見往往會影響人的政治判斷和政治選擇，甚至隱蔽地塑造和誤導公眾輿論，沖擊主流價值和觀念。

　　第二，大語言模型可能弱化國家闡釋權。闡釋權代表了國家在引導社會輿論、宣揚社會思想方面的權威性，是國家軟實力的重要組成。隨著大模型全面嵌入社會并參與某些重大概念與事件的解釋，大模型由于自身的普及性和便利性，可能使社會公眾習慣于第一時間尋求大模型解釋路徑。這種先入為主性疊加大模型輸出系統(tǒng)的高度擬人與完備化，將嚴重削弱官方解釋的說服力，削弱國家闡釋的權威性。

　　第三，大語言模型淪為意識形態(tài)武器。大模型技術在算力、算法、數(shù)據(jù)等方面的高門檻容易導致少數(shù)國家的技術壟斷，可能被當作意識形態(tài)戰(zhàn)爭或顏色革命的工具。一國可針對他國公眾心理弱點來供給帶有政治目的與本國意識形態(tài)偏好的內容產(chǎn)品，進而影響目標國公眾的政治判斷和政治選擇，間接把控政治走向，對目標國意識形態(tài)安全陣地進行隱形滲透。

　　技術監(jiān)管面臨新難度

　　大語言模型廣泛應用后，國家和政府需要應對的數(shù)據(jù)壓力呈幾何級增長，而且伴隨著輸出語言的高度擬人化，想要對這些信息進行真?zhèn)畏直鏄O其困難。掌握大語言模型技術的科技公司在社會中的話語權越來越大，使得國家在大模型時代進行數(shù)字治理和技術監(jiān)管的難度大增。

　　首先，監(jiān)管需求和監(jiān)管能力之間存在差距。隨著大模型技術的逐漸發(fā)展，其輸出錯誤或具備隱晦意識形態(tài)宣傳的話語表述，在大多數(shù)情況下難以為非專業(yè)人士所識別。此外，當ChatGPT等大模型以網(wǎng)絡水軍的方式參與公共事務，并蓄意就某一政治事件輸出具備意識形態(tài)色彩的錯誤事實時，龐大的數(shù)據(jù)體量會造成不小的監(jiān)管壓力。如果政府部門無法及時對網(wǎng)絡環(huán)境進行正確監(jiān)管，對錯誤信息進行分辨處理，這種由于監(jiān)管缺口而在公眾間廣泛傳播的錯誤信息可能造成嚴重的意識形態(tài)風險。

　　其次，技術壟斷侵蝕國家治理能力。大語言模型技術的創(chuàng)造、發(fā)展和普及都離不開專業(yè)的科技企業(yè)，特別是科技巨頭。這些企業(yè)以委托治理的方式參與國家治理目標的實現(xiàn)。但是大語言模型必需的算法、算力、數(shù)據(jù)三大數(shù)字要素被少數(shù)頭部科技企業(yè)掌握，先行優(yōu)勢擴大規(guī)模效應，這些企業(yè)必然會形成技術壟斷趨勢。走向寡頭化的科技巨無霸依賴算法權力和運作效率，模糊國家的權力邊界，甚至取代國家的部分功能，帶來“國家空心化”的危險。

　　深刻影響動蕩變革期的國際體系

　　智能時代國際科技競爭日益激烈，科技水平和創(chuàng)新能力是國家權力的核心要素。大模型技術作為人工智能領域的劃時代革新，其發(fā)展和擴散對已經(jīng)進入新的動蕩變革期的國際體系具有深刻影響。

　　一方面，大模型技術很可能會強化科技政治極化對抗。大模型架構所需的高數(shù)據(jù)量與技術儲備特質決定其存在被科技大國壟斷的趨勢。在時下激烈的技術競爭下，技術大國通常選擇護持已有技術避免對手國獲取，而無力參與大模型架構的技術弱國只能被迫選邊站隊。部分發(fā)達國家近年來通過限制芯片等遏制發(fā)展中國家的科技和產(chǎn)業(yè)發(fā)展的事例表明，國際技術政治的競爭性進一步加劇，國際秩序墜入兩極對抗的可能性上升。

　　另一方面，大模型技術可能會助推價值觀聯(lián)盟形成。掌握大模型技術的國家基本上都是發(fā)達國家，這種技術霸權加劇了發(fā)展中國家對發(fā)達國家的技術依賴。同時，由于大模型技術的重要意義，使得發(fā)達國家進一步加大了對自身價值優(yōu)越感的傳播，強化了西方價值觀隱蔽的支配地位，使發(fā)達國家更容易利用大模型工具推動價值觀聯(lián)盟形成。

　?。ㄗ髡邌挝唬喝A東政法大學政府管理學院）

作者：吉磊 李大琨 來源：中國社會科學網(wǎng)-中國社會科學報