OpenAI 或被賣給競爭對手，混亂「宮斗」的根源是 ChatGPT

老莊友華 2023-11-21 發(fā)布于海南

展開全文

當我（一次又一次天真地）以為 OpenAI 這場風波要塵埃落定時，它總能以《繼承之戰(zhàn)》編劇都沒法寫出來的方式反轉(zhuǎn)。

在超過九成 OpenAI 員工徹底撕破臉，聯(lián)名要求董事會解散，并迎回 Sam Altman 后，董事會還沒放棄抵抗。他們甚至找到了競爭對手 Anthropic，試圖讓兩家公司合并。

董事會希望說服 Anthropic 的聯(lián)合創(chuàng)始人兼 CEO Dario Amodei 接任 CEO，以完成四天更換四個 CEO 歷史壯舉。

Dario Amodei 也曾是 OpenAI 高管，他離職后創(chuàng)立的 Anthropic 主推安全的 AI，旗下聊天機器人 Claude 是 ChatGPT 的競品。

分析認為，如果 OpenAI 和 Anthropic 真合并了，那簡直又是一場混亂的開端，因為兩家明星創(chuàng)業(yè)公司背后是幾家科技巨頭在 AI 領(lǐng)域布局的站隊。

微軟和 OpenAI 一隊，Anthropic 則和亞馬遜以及 Google 簽了數(shù)十億美元級別的云計算協(xié)議，兩家巨頭也都有投資 Anthropic。

目前 OpenAI 已經(jīng)處于分崩離析的邊緣，競爭對開始招募流出的大批人才，同時 OpenAI 的大客戶已經(jīng)在考慮轉(zhuǎn)投 Anthropic、微軟或 Google 等公司

在我們繼續(xù)追蹤事態(tài)發(fā)展的同時，也回顧一下這場劇變的起始點 —— OpenAI 的內(nèi)部矛盾?！洞笪餮笤驴吩谧钚碌囊黄獔蟮乐?，挖出了內(nèi)部深埋已久的理念沖突。

OpenAI 的混亂，從 ChatGPT發(fā)布那天就開始了

1. OpenAI 原本沒打算發(fā)布GPT-3.5。2022 年秋季，OpenAI 原本在籌備發(fā)布 GPT-4。但有傳言稱 Anthropic 也要發(fā)聊天機器人，于是 OpenAI 管理團隊在 11 月宣布幾周后就要發(fā)布產(chǎn)品，選用了當時相對完善的 GPT-3.5。

2. 沒人料到 ChatGPT 的成功。ChatGPT 的發(fā)布很低調(diào)，低調(diào)到公司里好些員工都不知道 OpenAI 發(fā)布了它。當時知情的員工還在賭能引來多少用戶，最多只猜到一萬用戶。結(jié)果，上線五天用戶數(shù)就突破了一百萬。

3. ChatGPT 不僅讓服務器宕機，也讓檢測工具失效。團隊做了一個流量監(jiān)測工具，可追蹤用戶行為，理解用戶在如何使用這個工具，協(xié)調(diào)潛在危機和濫用。ChatGPT 的爆火讓這個工具重復崩潰。

4. OpenAI 的安全團隊勸產(chǎn)品團隊減緩產(chǎn)品更新速度。ChatGPT 發(fā)布后用戶數(shù)快速增長，安全團隊未能跟上應對安全隱患和惡意使用。隨后，產(chǎn)品團隊不顧安全團隊提醒，堅持乘勝追擊，接連推出了付費版 ChatGPT 和開放 API 接口。

5. 詐騙危機。隨著 ChatGPT 和 GPT-4 的廣泛應用，也有人找到了漏洞。有用戶開始大規(guī)模創(chuàng)建新賬號，以獲取每個新賬號帶來的 20 美元優(yōu)惠。阻止這些詐騙成為了 OpenAI 當時的首要任務，原本被分配到不同領(lǐng)域的小支安全團隊成員被安排專注于解決這個問題。

6. 壓力之下，一些員工甚至出現(xiàn)了精神健康問題。公司內(nèi)部的溝通情況很糟糕，員工只有在發(fā)現(xiàn)同事在 Slack 上消失時才知道他們被解雇了。

7. 「感受下 AGI（feel the AGI）」。技術(shù)進步之快，首席科學家 llya Sutskever 愈加確信 AGI 終會實現(xiàn)，他的行為也越來越像某種「精神領(lǐng)袖」，口頭禪是「感受下 AGI」，意指大家已經(jīng)很接近實現(xiàn) AGI 的目標了。Sutskever 曾在社交媒體發(fā)文「如果你能感受到 AGI，你就應聘 OpenAI」。在 OpenAI 的 2022 節(jié)日派對上，Sutskever 甚至帶領(lǐng)員工齊聲高呼「感受下 AGI！感受下 AGI！」員工還在 Slack 上做了「感受下 AGI」的 emoji。

8. 信念的另一面，是對 OpenAI 在安全方面不夠重視的擔憂。今年 7 月，Sutskever 和 Jan Leike 帶領(lǐng)成立了「Superalignment（超級對齊）」團隊，研發(fā)更多上游 AI 安全技術(shù)，獨占公司 20% 現(xiàn)有計算芯片，準備迎接在這個十年內(nèi)即將到來的 AGI?！笇R」的意思是讓 AI 只做人們想讓它們做的事。

9. 今年的一次內(nèi)部活動中，Sutskever 甚至還定制了一個木雕像以代表「不對齊的 AI」，然后一把火燒了，代表 OpenAI 做對齊 AI 的決心。

10. 今年 10 月，矛盾升溫。知情人士稱，Altman 意在削弱 Sutskever 在公司的影響力，引發(fā)了和董事會間的沖突。

11. 11 月 6 日開發(fā)者大會，Altman 宣布推出可定制 GPT 功能，Sutskever 徹底怒了，帶著憂慮去找董事會。

12. 11 月 17 日，Altman 在線上會議被董事會辭退。

13. 面對眾多 Altman 將回歸的傳聞，馬斯克在 X 上表示如果 Altman 真的回歸，他會很擔心。因為「 Ilya 有很好的道德準則，不會追尋權(quán)力。如果不是覺得必須要動手的話，Ilya 不會有這樣極端的行為?！?/section>

14. 11 月 20 日，Sutskever 對員工表示，Altman 并不會回歸 OpenAI 擔任 CEO。亞馬遜旗下直播平臺 Twitch 的聯(lián)合創(chuàng)始人 Emmett Shear 將擔任 OpenAI 臨時 CEO。

混亂背后：Sutskever 和 Altman 的理念沖突

1. 主導 OpenAI 前沿技術(shù)發(fā)展的首席科學家 llya Sutskever 師從「AI 教父」Geoffrey Hinton，主張謹慎地應對 AI 和 AGI 的安全隱患。

2. Sutskever 的表現(xiàn)一直很出色。他加入 Hinton 團隊早期，Hinton 給了他一項很復雜的任務，Sutskever 厭倦了編寫過程要做的計算，告訴 Hinton 自己寫一個程序語言來完成更簡單。當時 Hinton 聽到有點生氣，警告他這可能會耗一整個月且無果而終。Sutskever 坦白說：「我今早其實就做完了?！?/section>

3. 業(yè)內(nèi)陸位極高。Sam Altman 稱 Sutskever 是其中一位全球最受尊敬的研究者，并認為把他請來了，能吸引更多 AI 人才。馬斯克直言認為他是 OpenAI 成功的關(guān)鍵人物。

4. 為了把 Sutskever 從 Google 挖到 OpenAI，馬斯克和 Google 的聯(lián)合創(chuàng)始人 Larry Page 鬧翻了。

5. Sutskever 的 AI 觀：技術(shù)就像是一種自然力量。把控 AGI 的初誕生至關(guān)重要，否則它會遵循類似「適者生存」的法則，優(yōu)先保住自身存在。就和人與動物一樣，人不恨動物，但當人類要發(fā)展，我們就會把建造高速公路的需求放在動物生存之上。

6. 當那篇歷史性論文「Attention Is All You Need」出來時，Sutskever 是為數(shù)不多能看出其重要性的人：「我們在等的就是這個?！?/section>

7. Sutskever 主張將特定價值觀「刻」在超級 AI 中，讓 AI 像動物一樣擁有一些類似「天性」的「銘印」：「最終，AI 將變得非常、非常、非常強大。我們將無法理解他們。他們會比我們聰明得多。到那個時候，強烈的銘印至關(guān)重要，只有這樣，他們對我們的感覺才會像我們對自己的孩子一樣?！?/section>

8. AGI 爭奪戰(zhàn)無益。Sutskever 認為如果有多支團隊爭先做出 AGI，他們用來保證 AGI 安全性的工作就更少空間了。與之相比，Altman 稱自己更像一個「中間派」，既要保證速度，也要確保其安全性。

9. Sutskever 心中的第一批 AGI 看起來就像超級巨大的數(shù)據(jù)中心，內(nèi)置專有神經(jīng)網(wǎng)絡，極度耗能，耗能約等于上千萬個家庭用電量。這些 AGI 肯定會深度影響社會，但我們不確定誰會受益。

10. OpenAI 前員工說 Sutskever 在內(nèi)部有很多追隨者，稱他是備受尊敬且親力親為的領(lǐng)袖，對于建設 OpenAI 前沿技術(shù)至關(guān)重要。OpenAI 前總裁 Greg Brockman 則擅長于將 Sutskever 的研究成果轉(zhuǎn)化成可用的 AI 產(chǎn)品。

Sam Altman 被罷免事件時間線：