來源|多知網(wǎng)

演講嘉賓|李大海

整理|徐晶晶

攝|張蔚斐

ChatGPT對(duì)教育的影響已引發(fā)諸多探討，教育與大模型的結(jié)合會(huì)有哪些可能？在多知網(wǎng)近日舉辦的OpenTalk第40期“'教育+大模型’的實(shí)踐與創(chuàng)想”活動(dòng)上，知乎合伙人、CTO李大海分享了知乎知海圖AI中文大模型的發(fā)展和應(yīng)用前景和暢想。

核心觀點(diǎn)：

1.2022年底發(fā)布的 ChatGPT 可以看成智能時(shí)代的第一臺(tái)蒸汽機(jī)，雖然還有很多問題和限制，但無疑已經(jīng)開啟了一個(gè)新的時(shí)代。

2.未來一定會(huì)出現(xiàn)很好的大模型通用智能，但在這個(gè)過程中，當(dāng)通用還不夠的時(shí)候，我們也需要用很多場(chǎng)景里面的專有知識(shí)去做對(duì)齊。

3.大模型特別有用的一個(gè)能力是理解能力，理解能力是比生成能力更早成熟的。對(duì)知乎這樣的場(chǎng)景來說，理解能力能夠更精細(xì)地描繪內(nèi)容，從而可以更精細(xì)描繪用戶，做內(nèi)容跟用戶連接的時(shí)候，效率和準(zhǔn)確性會(huì)更高，這對(duì)分發(fā)體驗(yàn)有很大的幫助。

4.AI是人類能力的擴(kuò)增，人才是中心。

5.我們現(xiàn)在認(rèn)為ChatGPT這個(gè)產(chǎn)品一定不是通用智能未來的終極產(chǎn)品形態(tài)。因?yàn)檫@種對(duì)話式的方式門檻還是蠻高的，問不出好的問題效果會(huì)很差，人類要學(xué)會(huì)用AI的方式提問。

以下為李大海分享全文(經(jīng)多知網(wǎng)整理編輯)：

大家下午好！首先非常感謝多知網(wǎng)邀請(qǐng)我來參與這個(gè)分享交流。我是李大海，2015年加入知乎，是知乎的合伙人和CTO。隨著AI技術(shù)的進(jìn)步，知乎也在不斷用更新的技術(shù)武裝整個(gè)技術(shù)體系。

ChatGPT發(fā)布之后，讓整個(gè)技術(shù)圈都震動(dòng)了。OpenAI做得很了不起的一件事是，讓所有人在很短時(shí)間里達(dá)成共識(shí)，即這是非常有應(yīng)用前景的技術(shù)。如此大范圍的共識(shí)達(dá)成是非常不容易的。

我屬于技術(shù)激進(jìn)派，我認(rèn)為ChatGPT的面世是一件非常重要的事情，這是一個(gè)時(shí)代的開端。我當(dāng)時(shí)的形容是“這就是智能時(shí)代的蒸汽機(jī)”。對(duì)于智能時(shí)代來說，ChatGPT仍有很多缺點(diǎn)，但是三年后再看，一定會(huì)非常不一樣。今年2月份的時(shí)候，我周圍還有朋友對(duì)這件事表示懷疑，甚至有一些NLP領(lǐng)域前輩們認(rèn)為，這只是一個(gè)概率游戲。任何一個(gè)新的事物出現(xiàn)，有不同的看法是非常正常的。但是到今天，我相信持有這種看法的人越來越少，哪怕非技術(shù)圈的人也對(duì)這個(gè)技術(shù)越來越buy in了。我們也可以看到技術(shù)圈的人非常焦慮，過去幾個(gè)月，每天早晨起來一刷新聞就看到又有新模型或者新應(yīng)用方式出來了，連論文都讀不過來，更別說自己動(dòng)手做了。所以整個(gè)技術(shù)圈的人都有點(diǎn)焦慮。

GPT4、PaLM2或StableDiffusion這些大模型的進(jìn)展非?？臁Ｔ谥?月舉行的發(fā)布會(huì)上，我講到過，客觀來看，現(xiàn)在大模型在中文跟英文上的語(yǔ)言能力還是有區(qū)別的，它的中文能力會(huì)稍微弱一點(diǎn)。這背后的原因主要還是數(shù)據(jù)?，F(xiàn)在的大模型已經(jīng)完完全全是一個(gè)data centric 型的工作了。有多少數(shù)據(jù)就有多少智能，大模型時(shí)代，數(shù)據(jù)的量和質(zhì)決定了模型的能力。

但是，我們?cè)诠ぷ鞯倪^程中也能夠看到，整個(gè)中國(guó)的語(yǔ)料還是非常豐富的，只不過可以公開獲取的數(shù)據(jù)規(guī)模會(huì)少一些。不過，我們很高興看到北京市前幾天發(fā)布了一份文件（《北京市促進(jìn)通用人工智能創(chuàng)新發(fā)展的若干措施（2023-2025年）（征求意見稿）》），政府也意識(shí)到數(shù)據(jù)公開的重要性，所以組織工業(yè)界、學(xué)術(shù)界一起構(gòu)建開放的數(shù)據(jù)庫(kù)。

我有信心，中美在大模型開發(fā)上的競(jìng)爭(zhēng)中，我們至少不會(huì)被甩開。因?yàn)?/span>AI的關(guān)鍵要素之一是數(shù)據(jù)，此外很多工作也屬于工程范疇，這些領(lǐng)域中國(guó)都有自己的優(yōu)勢(shì)。大模型在這條路上有模擬人腦的感覺了。有一本書叫《千腦智能》，它的核心邏輯就是，人的大腦功能結(jié)構(gòu)是非常單一的，處理視覺信號(hào)的大腦區(qū)域，跟做決策做邏輯分析的區(qū)域結(jié)構(gòu)一樣，只是人腦發(fā)育過程中通過學(xué)習(xí)會(huì)自動(dòng)形成分區(qū)。現(xiàn)在大模型從模型結(jié)構(gòu)上越來越簡(jiǎn)單，越來越往這個(gè)思路上靠近。所以未來模型上的發(fā)展，更多是效率上的優(yōu)化，是怎么把推理效率和訓(xùn)練效率提升起來，怎么能支撐更大規(guī)模的訓(xùn)練，這些都是工程方面的工作。中國(guó)的工程能力非常強(qiáng)，所以工程這塊中國(guó)是不會(huì)輸給美國(guó)的。所以我相信時(shí)間稍微拉長(zhǎng)一點(diǎn)，我們?cè)谶@個(gè)競(jìng)爭(zhēng)中一定能發(fā)揮自己的優(yōu)勢(shì)。

簡(jiǎn)單介紹一下知乎在大模型方向上的工作。ChatGPT發(fā)布以后，我們跟業(yè)內(nèi)很多公司交流。在新年前后，我們跟面壁智能做了深度溝通，他們的源代碼是開放的，也有API，我們就做了一個(gè)比較深度的評(píng)測(cè)，非常認(rèn)可這家公司的技術(shù)能力。所以我們對(duì)面壁智能做了一輪戰(zhàn)略投資，現(xiàn)在我們兩個(gè)團(tuán)隊(duì)在一起無間地工作。

面壁智能是2020年開始做大模型開發(fā)的，他們聯(lián)合北京智源研究院一起研發(fā)出了CPM-1到CPM-3三個(gè)大模型。在這個(gè)基礎(chǔ)之上，面壁智能又做了CPM-Ant和CPM-Bee兩個(gè)大模型。

大模型本身是分三層，首先要有一個(gè)預(yù)訓(xùn)練模型，邏輯上像是一個(gè)我們先培養(yǎng)一個(gè)人掌握通識(shí)教育，讓他不停背書學(xué)習(xí)，能夠達(dá)到一個(gè)中學(xué)生或者普通大學(xué)生的素質(zhì)水平。然后在此基礎(chǔ)上去做對(duì)齊，也就是做專業(yè)訓(xùn)練，比如把他培養(yǎng)成一個(gè)律師，培養(yǎng)成一個(gè)心理咨詢師等。預(yù)訓(xùn)練模型的潛力決定它做對(duì)齊時(shí)的效率。預(yù)訓(xùn)練潛力越高，對(duì)齊時(shí)教它的東西越少，舉一反三地越快。

知乎跟面壁智能一起做了大模型預(yù)訓(xùn)練之后，今年4月份，用知乎自己的數(shù)據(jù)同步上線了一個(gè)功能，就是對(duì)熱榜問題下的觀點(diǎn)進(jìn)行抽取和聚合，這個(gè)功能叫做“熱榜摘要”。

這個(gè)功能現(xiàn)在只是小范圍內(nèi)測(cè)，后續(xù)會(huì)全面開放。

知乎熱榜摘要現(xiàn)在大概是有兩種樣式：一種是很開放的條理樣式，一個(gè)問題底下用戶有不同的表達(dá)，聚合起來一般是多種主要觀點(diǎn)，我們把這些觀點(diǎn)直接展現(xiàn)在這里，讓用戶一眼就可以看到這個(gè)問題下回答的大致方向。另一種是一些比較封閉的問題（比如是與否、會(huì)與不會(huì)等），我們會(huì)把所有的知友回答核心觀點(diǎn)抽取出來，按照回答的類型分類。

這是大模型在知乎的第一個(gè)應(yīng)用，也是一次試水，目的是為了測(cè)試一下我們的大模型在內(nèi)容理解、抽取等方面能做到什么程度。

做這個(gè)產(chǎn)品的過程中我們也有一些經(jīng)驗(yàn)和收獲：未來一定會(huì)出現(xiàn)很好的大模型通用智能，但是在這個(gè)過程中，工作是混合的，當(dāng)通用還不夠的時(shí)候，我們也需要用很多場(chǎng)景中的專有知識(shí)去做對(duì)齊。這個(gè)對(duì)齊是很有必要的，我們做了很多對(duì)齊的工作，也體會(huì)到數(shù)據(jù)的重要性。

我們現(xiàn)在只是嘗試了大模型在知乎場(chǎng)景的其中一個(gè)應(yīng)用，未來還會(huì)有更多，這些應(yīng)用都建立在整個(gè)模型工作的系統(tǒng)化框架之上。如果沒有這些框架，我們做很多事情的效率會(huì)低很多。

剛才講了熱榜摘要算是知乎的第一個(gè)大模型應(yīng)用，我認(rèn)為，大模型可以將知乎整個(gè)業(yè)務(wù)都重寫一遍、升級(jí)一遍。

第一是內(nèi)部能力的提升。很多工作都可以通過大模型來提效，包括運(yùn)營(yíng)、設(shè)計(jì)、產(chǎn)品等等。

第二，知乎本身是一個(gè)在圖文領(lǐng)域很有優(yōu)勢(shì)的高質(zhì)量社區(qū)。大模型特別有用的一個(gè)能力是理解能力。其實(shí)理解能力是比生成能力更早成熟的。它能夠更精細(xì)地描繪內(nèi)容，有了對(duì)內(nèi)容更精細(xì)的描繪，我們就可以更精細(xì)描繪用戶，做內(nèi)容跟用戶連接的時(shí)候，效率和準(zhǔn)確性會(huì)更高，這對(duì)分發(fā)體驗(yàn)有非常大的幫助。

第三，對(duì)知乎來講，我們?nèi)匀皇且患乙匀藶楸镜纳鐓^(qū)，所以人是最重要的。我們一直在講，AI是人類能力的擴(kuò)增，人才是中心。大模型開發(fā)過程中，我們會(huì)考慮給創(chuàng)作者提供足夠的創(chuàng)作賦能，這個(gè)賦能是Copilot的角色，它不是主角。我們希望創(chuàng)作者拿到AI輔助功能之后，能在修辭、行文工作上迅速提效，但是創(chuàng)作的思想必須是自己的，這是非常重要的一個(gè)點(diǎn)。

回到今天分享的主題：教育。未來在教育領(lǐng)域，我們相信也有非常多可以落地的地方。因?yàn)榻逃旧砭褪翘烊恍枰獋€(gè)性化、需要更多智能來做的。有教無類，要實(shí)現(xiàn)個(gè)人教育過程中的價(jià)值最大化，一定要貼向用戶的獨(dú)特的特點(diǎn)來進(jìn)行。基于這樣的邏輯，我相信在數(shù)據(jù)量足夠大的情況下，大模型定制化地給個(gè)人提供的價(jià)值，可能比設(shè)計(jì)好的千篇一律的教學(xué)方案要更大。

通過大模型的能力，構(gòu)建智能化的學(xué)習(xí)方式和學(xué)習(xí)場(chǎng)景，用戶在語(yǔ)言學(xué)習(xí)場(chǎng)景具有完整度的體驗(yàn)。

在大模型推出之前，我們就看到很多頭部教育公司已經(jīng)在這個(gè)方向探索，比如構(gòu)建海量的題庫(kù)，根據(jù)他們收集的數(shù)據(jù)，通過不同的學(xué)生對(duì)這個(gè)題目做出來的準(zhǔn)確率，來度量這個(gè)題目難度。反過來通過學(xué)生每道題做得怎么樣，去衡量這個(gè)同學(xué)的掌握情況，再針對(duì)性地給他更有價(jià)值的題目等等。

有大模型推出之前，顆粒度是在題目上，題目是一個(gè)對(duì)象，會(huì)抽取一些知識(shí)點(diǎn)，但顆粒度比較粗糙。但在大模型時(shí)代，出眾的理解能力和生成能力可以把這些都打碎，大模型能夠根據(jù)自己的理解，讓顆粒度更細(xì)化，我相信這是大模型能帶給教育的非常高的價(jià)值。

在超真實(shí)體驗(yàn)方面，大模型配上虛擬人，配上聲音，我相信它也能夠解決陪伴的問題。因?yàn)樘摂M人跟每個(gè)學(xué)生的交互，能夠讓學(xué)生感覺到自己得到關(guān)注。在上大班課的時(shí)候，是否得到老師關(guān)注，學(xué)生感受是非常不一樣的。有了這樣陪伴式的體驗(yàn)，我相信對(duì)學(xué)生來說是有額外的價(jià)值的。

目前市面上有一些結(jié)合大模型的教育應(yīng)用。比如日韓的一款應(yīng)用speak，也是OpenAI投資的一家公司，該產(chǎn)品在日本和韓國(guó)的業(yè)務(wù)數(shù)據(jù)非常好。應(yīng)用了大模型以后，speak能夠非常個(gè)性化地貼近用戶，用更地道的口語(yǔ)跟用戶聊天，讓學(xué)習(xí)不再是一件枯燥的事情，而是一個(gè)以人為本的事情。

ChatGPT這樣的產(chǎn)品現(xiàn)在還是智能時(shí)代的蒸汽機(jī)，還有很多不足?，F(xiàn)在大模型還面臨著很多挑戰(zhàn)：

比如可信度方面，存在幻覺，會(huì)胡說八道；時(shí)效性方面也有待提升；使用門檻方面也存在問題。我們認(rèn)為ChatGPT這個(gè)產(chǎn)品一定不是通用智能未來的終極產(chǎn)品形態(tài)。因?yàn)檫@種對(duì)話式的方式門檻還很高，問不出好的問題效果會(huì)很差，所以目前人類還要會(huì)用AI的方式提問。

就數(shù)據(jù)而言，整個(gè)中文開放語(yǔ)料相對(duì)英文來說，小了很多。所以，怎么把現(xiàn)存的中文優(yōu)秀語(yǔ)料讓大家更低成本地拿到，對(duì)于中國(guó)AI發(fā)展是非常重要的。我們可以看到，圖像大模型的進(jìn)展很快，就是因?yàn)楹Ｍ庥袔讉€(gè)英文的開源圖文對(duì)數(shù)據(jù)集，質(zhì)量和數(shù)量都很好。因?yàn)橛羞@些開放的語(yǔ)料，大模型卷起來會(huì)非?？臁Ａ硗?，數(shù)據(jù)的安全合規(guī)也會(huì)變成一個(gè)非常大的挑戰(zhàn)。因?yàn)閿?shù)據(jù)采集越來越容易，怎樣在過程中把用戶隱私與合法有效的數(shù)據(jù)區(qū)分開，不要讓AI脫韁，非常重要。

在標(biāo)注方面，標(biāo)注難度、標(biāo)注成本、標(biāo)注偏見都存在挑戰(zhàn)。對(duì)齊數(shù)據(jù)質(zhì)量非常重要，需要在不同的標(biāo)注員間仔細(xì)地拉齊標(biāo)注的標(biāo)準(zhǔn)。另外，對(duì)齊數(shù)據(jù)標(biāo)準(zhǔn)太高，需要更多更專業(yè)的人來做，我們以前做簡(jiǎn)單任務(wù)標(biāo)注的同學(xué)，實(shí)踐中無法勝任這個(gè)工作。因此也對(duì)成本和配套的培訓(xùn)提出很高的要求。

此外挑戰(zhàn)還包括算力和政策合規(guī)等，不多贅述。

面向未來，現(xiàn)在的AI還是一個(gè)在學(xué)走路的“小朋友”，未來它逐步長(zhǎng)大，到一定程度的時(shí)候，它的安全性也是一個(gè)非常大的問題。我們相信技術(shù)演進(jìn)是非線性的，在某個(gè)階段可能有一定的爆發(fā)性，存在指數(shù)上升的可能，也許這天來得比我們想象的快，我們是不是準(zhǔn)備好了AI安全性上的安全措施，是否能夠做得足夠到位？這也是很大的挑戰(zhàn)。

我今天的分享就到這里，也希望跟行業(yè)里的朋友們多交流，能夠跟大家一起提供足夠好的中文AI服務(wù)。大模型時(shí)代，讓中國(guó)用戶享受與英文用戶一樣優(yōu)質(zhì)的服務(wù)。謝謝大家。

提問：因?yàn)橹跏菃柎鹕鐓^(qū)，我們特別好奇，如果有人用GPT回答的內(nèi)容在知乎上灌水，這樣的內(nèi)容，知乎是怎么過濾的？

李大海：我們很關(guān)注這個(gè)問題，也做了一些對(duì)抗性的工作。不過這個(gè)工作比較難，不可能全面準(zhǔn)確地做出檢測(cè)。

第二點(diǎn)，我們也認(rèn)為，以人為中心的工作，AI是可以在其中起作用的。不是說有AI成分就是完全不對(duì)的。

結(jié)合在一起，我們更傾向于認(rèn)為，如果你的內(nèi)容本身非常有優(yōu)勢(shì)，有你的洞見，我們并不關(guān)注其中有沒有AI參與。今年我們3月份上線了一個(gè)功能，叫做AI創(chuàng)作聲明，一旦創(chuàng)作者使用了這個(gè)聲明，我們就不會(huì)對(duì)內(nèi)容做干預(yù)。當(dāng)然，對(duì)于濫用 GPT 的賬號(hào)，我們是不歡迎的。

提問：您提到的問一個(gè)好問題也是非常重要的，我以前在教育行業(yè)，現(xiàn)在我是記者，所以工作主要就是問問題，現(xiàn)在ChatGPT大模型可以生成很多回答，這個(gè)回答是不是本身就可以是好問題？我的問題是，要想讓大模型回答本身就是一個(gè)好問題，怎么樣才能讓它生成這樣恰當(dāng)?shù)暮脝栴}？

李大海：大模型當(dāng)然能提出很好的問題。最近跟一些行業(yè)里的朋友聊天，看到有一些場(chǎng)景，是拿大模型去訓(xùn)聊天機(jī)器人。聊天機(jī)器人這樣的場(chǎng)景，和 ChatGPT 這種場(chǎng)景其實(shí)不太一樣，AI 模型需要主動(dòng)引發(fā)話題，才能聊起來，才會(huì)給用戶帶來陪伴感。從一些產(chǎn)品的 demo 感受來看，大模型在這個(gè)場(chǎng)景的提問并不差。

您剛才問的問題可能跟您的職業(yè)比較相關(guān)，這是通用場(chǎng)景。我沒有試過怎么引導(dǎo)模型提好問題，不過建議可以往這個(gè)方向嘗試一下：您平時(shí)本來就會(huì)問很多問題，可以拿這些所有問題來先問大模型，哪些是好問題，再讓它提出一些類似的好問題，模型是可以用啟發(fā)式的方式溝通的。

提問：我有一個(gè)關(guān)于模型大小的問題，我們都知道知乎是現(xiàn)在中國(guó)互聯(lián)網(wǎng)上語(yǔ)料或者數(shù)據(jù)優(yōu)勢(shì)度相對(duì)來說最高的平臺(tái)，在語(yǔ)料優(yōu)勢(shì)達(dá)到一定程度的情況下，我們對(duì)于不同大小的模型，在業(yè)務(wù)實(shí)際場(chǎng)景下的效果評(píng)估上，大概是怎樣的？

李大海：模型的大小跟它訓(xùn)練語(yǔ)料的數(shù)量和訓(xùn)練的時(shí)長(zhǎng)有一定的線性關(guān)系。如果你的模型特別大，但是給它的語(yǔ)料不夠，它是欠學(xué)習(xí)的狀態(tài)，還不如同等語(yǔ)料的情況下，讓一個(gè)小規(guī)模的模型充分學(xué)習(xí)，效果反而更好。

模型越大就需要越多高質(zhì)量的數(shù)據(jù)。

回到業(yè)務(wù)上，模型規(guī)模的判斷涉及到具體的業(yè)務(wù)目標(biāo)。因?yàn)椴煌笮〉哪Ｐ?，在不同領(lǐng)域的能力是不一樣的。比如目前我們的感覺是，大模型最難涌現(xiàn)的能力是邏輯推理，如果業(yè)務(wù)需要的是這個(gè)能力，那就需要非常大的模型。

提問：知乎我感覺更偏向內(nèi)容社交，您也展示了內(nèi)容方面比如語(yǔ)義提取，在社交領(lǐng)域這塊有沒有一些提前的規(guī)劃或者方向？因?yàn)榍耙魂囎颖容^火的一個(gè)AI社區(qū)，就是城市AI人，知乎在社交互動(dòng)方面是不是也可以引入一些問答或者交流類的？是不是有這方面的規(guī)劃？

李大海：社交是知乎很重要的一個(gè)因素。所以我們也確實(shí)在思考，怎么能夠用大模型來賦能產(chǎn)品，在社交上能有更好的效率。但是具體怎么做，還需要好好的想一想。因?yàn)榇竽Ｐ偷幕A(chǔ)能力怎么跟業(yè)務(wù)結(jié)合在一起，需要很多思考。

提問：我想問關(guān)于數(shù)據(jù)的開放性的問題。其實(shí)教育行業(yè)一樣面臨這樣的問題。一方面希望模型比較好用，業(yè)務(wù)直接拿來就用。另一方面不愿意開放自己的核心數(shù)據(jù)。因?yàn)樯婕暗绞欠耖_放的問題，可能知乎跟面壁是深度合作，但如果是百度阿里等其他的大模型跟知乎合作，知乎會(huì)不會(huì)考慮數(shù)據(jù)開放性上的問題？

李大海：這確實(shí)是一個(gè)很難的問題。我們還是很開放的。2016年-2017年的時(shí)候，我記得當(dāng)時(shí)有一個(gè)高校的教授找到我們，想要對(duì)接NLP科研項(xiàng)目。對(duì)方說，知乎數(shù)據(jù)太難爬了，很累，問我們能不能直接給他們，我們就開放了部分?jǐn)?shù)據(jù)。當(dāng)然，和業(yè)界其它公司的合作，具體到什么程度，這個(gè)需要更多業(yè)務(wù)上的思考。

我們最近也在跟開源界很多朋友交流，是不是可以開放一些高質(zhì)量數(shù)據(jù)給到社區(qū)。其實(shí)從我們的角度來講，如果這個(gè)事對(duì)社區(qū)有幫助，同時(shí)也沒有顯著影響到我們?nèi)粘＿\(yùn)營(yíng)，我們是愿意開放的，但是我們也不能用自己的看法去要求所有人?？偟膩碚f這是一個(gè)難題，確實(shí)希望從政策和行業(yè)層面來組織推動(dòng)破這個(gè)局。

OpenTalk第40期相關(guān)內(nèi)容：

簡(jiǎn)約商業(yè)思維聯(lián)創(chuàng)羅飛：教育企業(yè)如何應(yīng)用好AIGC技術(shù)？| OpenTalk