李艷 翟一鳴

現(xiàn)代院科技與網(wǎng)絡(luò)安全研究所

OpenAI和微軟近來可真是頻繁帶節(jié)奏，在ChatGPT“余熱未消”之時，直接再上GPT-4，各方還未從一波仍泛一波再起的目眩之中醒過神來，這兩天又接連推出“重磅炸彈”?？梢娫贑hatGPT等智能系統(tǒng)領(lǐng)域，相關(guān)機構(gòu)真的是做到了默耕多年，攢足存貨，一朝出手，風起云涌。

這一次，微軟更是將GPT-4整合進自家應用，OpenAI為ChatGPT添加了聯(lián)網(wǎng)在內(nèi)的各類插件系統(tǒng)，技術(shù)上解釋起來破費周折，我們不妨將其結(jié)果形象地理解為“當ChatGPT不只能Chat”，它可做的事情不再只是交互反饋式生成與輸出，其施展作為的空間更加廣闊。

3月16日，微軟推出由GPT-4提供支持的AI助手“Microsoft 365 Copilot”（以下簡稱“Copilot”）。微軟官方簡介稱，該助手把人工智能大型語言模型的強大功能與微軟相關(guān)應用中的數(shù)據(jù)相結(jié)合，可將文字轉(zhuǎn)化為最為強大的生產(chǎn)力工具。具體來看：一方面，Copilot嵌入到了Word、Excel、PowerPoint等人們熟知的應用程序中，使用簡單的文字指令即可實現(xiàn)文字創(chuàng)作、文檔轉(zhuǎn)PowerPoint演示文稿、分析表格數(shù)據(jù)并生成圖表等復雜或重復性的操作，有效提升工作效率和“創(chuàng)作”水平；另一方面，Copilot將用戶業(yè)務(wù)數(shù)據(jù)與微軟各類應用程序相關(guān)聯(lián)，在后臺業(yè)務(wù)數(shù)據(jù)的基礎(chǔ)上，同樣使用文字指令即可實現(xiàn)實時的日歷信息更新、會議內(nèi)容總結(jié)、電子郵件或文檔整理等操作。3月22日，微軟旗下代碼托管平臺GitHub發(fā)布智能編程助手“GitHub Copilot X”，該助手采用了GPT-4，將允許程序員以ChatGPT的風格，通過文字詢問甚至語音聊天的方式來編寫和調(diào)試代碼。

GPT模型與微軟應用的結(jié)合將顛覆“電子生產(chǎn)方式”，用戶不必再研究或?qū)ｉT學習制作PPT或EXCEL表的復雜方法，甚至是專門學習代碼編程，所有豐富的功能只需使用文字就能解鎖，輸入文字要求指令就能“一鍵生成”所需內(nèi)容，真正成為人們辦公工作的“副駕駛”（Copilot）。換句話說，以后關(guān)于“熟悉office操作系統(tǒng)”、“熟練使用Excel表格”甚至“擅長代碼編寫”將不再是求職優(yōu)勢。

3月23日，OpenAI推出ChatGPT插件系統(tǒng)，網(wǎng)友們戲稱ChatGPT已“解除最后的封印”。之前ChatGPT基于已經(jīng)建成并訓練好的大模型，所使用的數(shù)據(jù)是提前“投喂”的，并不能在使用時通過網(wǎng)絡(luò)實時檢索和處理；同時，以往ChatGPT的主要功能及應用場景還是在問答回復，給用戶反饋的是“參考內(nèi)容”，無法進一步執(zhí)行其他操作。但一旦安入“插件”，其不僅擁有目前世界頂尖的自然語言處理能力，還能夠檢索全互聯(lián)網(wǎng)信息，再加之第三方服務(wù)，ChatGPT甚至可以替用戶完成一系列操作，其智能程度毫無疑問再次實現(xiàn)突破。

具體來看：一方面，ChatGPT功能進一步拓展。利用各類插件，ChatGPT可實時檢索并使用互聯(lián)網(wǎng)信息、基于簡單指令進行復雜編程，甚至能實現(xiàn)訂機票、在線點餐等“直接操作”。另一方面，ChatGPT“回復”質(zhì)量明顯提升。加入“在線自動問答系統(tǒng)”插件后，ChatGPT可將用戶問題發(fā)送至在線問答系統(tǒng)，根據(jù)系統(tǒng)回答結(jié)果修正自身的“回復內(nèi)容”。經(jīng)測試，在部分情境中，ChatGPT“捏造事實”的現(xiàn)象已有明顯改善。未來，ChatGPT將獲得更多第三方產(chǎn)品知識和技能的加持，其“回復”專業(yè)性和可靠性必然會持續(xù)提高。

人工智能系統(tǒng)開發(fā)的目的是為與人類對標，如果將以往的ChatGPT類比為核心大腦，那么本次更新就是為ChatGPT增添了眼睛、耳朵等感官，甚至是四肢等行動器官。其不僅有了“智慧”，還有了“行動力”。

在包括AI在內(nèi)的新興技術(shù)領(lǐng)域，一直以來提倡“前瞻性治理”，尤其是將安全考慮貫穿技術(shù)產(chǎn)品研發(fā)與推廣的全流程。究其根源就在于“能力越大，責任越重”。能量越強大，一旦被不當甚至惡意使用，其破壞力也將是巨大的。

因此，在繼續(xù)驚嘆“重磅炸彈”的威力的同時，我們敏銳地關(guān)注到此次微軟和OpenAI在詳析新產(chǎn)品“變革性功能”的同時，特別對于相關(guān)產(chǎn)品的“安全考慮”進行了著重說明。Copilot簡介中明確提到，其將遵循微軟在安全、合規(guī)性和隱私等方面的全部政策、工作流程和保護手段，特別是解決用戶數(shù)據(jù)泄露問題，提出AI系統(tǒng)在使用用戶業(yè)務(wù)數(shù)據(jù)時將采用安全、合規(guī)、保護隱私的方式，且該些數(shù)據(jù)不會用于大型語言模型訓練。

ChatGPT插件系統(tǒng)更是強調(diào)“以安全為核心原則”，稱將外部工具接入ChatGPT雖會帶來新機遇，但同樣伴隨重大新風險。OpenAI已在ChatGPT插件系統(tǒng)中采取多項安全保障措施：開展網(wǎng)絡(luò)攻防對抗演練，發(fā)現(xiàn)系統(tǒng)安全漏洞并完善安全設(shè)計；針對“網(wǎng)絡(luò)瀏覽”插件進行限制，僅可用于檢索信息，不能進行“表單提交”等操作；“網(wǎng)絡(luò)瀏覽”插件將顯示系統(tǒng)訪問過的網(wǎng)站，并在搜索結(jié)果中引用信息來源，增加系統(tǒng)“透明度”；在用戶使用“代碼編寫”插件時創(chuàng)建獨立的、限制計算資源的安全環(huán)境，同時禁止代碼執(zhí)行結(jié)果聯(lián)網(wǎng)，防止系統(tǒng)生成的代碼直接用于危害性操作。

可以看到，微軟和OpenAI在新產(chǎn)品的功能性與安全性之間進行了一定程度的權(quán)衡，這是為了回應社會各界對ChatGPT等AI系統(tǒng)安全性的關(guān)切，同時也反映出相關(guān)系統(tǒng)的安全問題與風險已部分暴露在公眾視野之下，亟需對此提出適當性的解決方案。目前，Copilot和ChatGPT插件系統(tǒng)仍處在有限范圍的“內(nèi)測”階段，未來若向公眾開放，特別是第三方產(chǎn)品大量“涌入”ChatGPT“生態(tài)圈”的情況下，新式安全問題必將迎來“爆發(fā)期”。如果說以前我們認為，所謂發(fā)展與安全是一個長期動態(tài)平衡的問題，現(xiàn)在看來，未來它提出了即時同步平衡的更高要求。