OpenAI真正想要的是什么

翻譯by GPT-4

當(dāng)明星和他的隨行人員涌入等待的奔馳商務(wù)車時(shí)，空氣中充滿了幾乎與披頭士狂熱的能量。他們剛從一個(gè)活動(dòng)中溜出來(lái)，正趕往另一個(gè)活動(dòng)，然后再到另一個(gè)，那里有一個(gè)瘋狂的人群在等待。當(dāng)他們?cè)趥惗氐慕值郎洗┧蟆獜幕魻柋镜讲急R姆斯伯里的短途旅行——就好像他們正在經(jīng)歷文明的前后時(shí)刻。車內(nèi)的這位歷史性人物吸引了全球的關(guān)注。從排隊(duì)等待的學(xué)生到首相，每個(gè)人都想得到它的一部分。

在這輛豪華的車?yán)?，大口吃著沙拉的?8歲、頭發(fā)整齊的企業(yè)家Sam Altman，他是OpenAI的聯(lián)合創(chuàng)始人；還有一個(gè)公關(guān)人員、一個(gè)安保專家和我。Altman穿著一套藍(lán)色西裝，搭配一件不加領(lǐng)帶的粉色襯衫，他正忙于在倫敦的一個(gè)月長(zhǎng)的全球旅行，途經(jīng)六個(gè)大陸的25個(gè)城市。當(dāng)他大口吃著他的綠葉蔬菜——今天沒(méi)有時(shí)間坐下來(lái)吃午飯——他回想起前一天晚上與法國(guó)總統(tǒng)Emmanuel Macron的會(huì)面。相當(dāng)不錯(cuò)的家伙！而且對(duì)人工智能非常感興趣。

波蘭的首相也是如此。還有西班牙的首相。

與Altman一起，我?guī)缀蹩梢月牭健癆 Hard Day’s Night”開頭的那個(gè)悠揚(yáng)、模棱兩可的和弦——預(yù)示著未來(lái)。去年11月，當(dāng)OpenAI發(fā)布了其大熱產(chǎn)品ChatGPT時(shí)，它引發(fā)了一場(chǎng)自互聯(lián)網(wǎng)闖入我們生活以來(lái)從未見過(guò)的技術(shù)爆炸。突然間，圖靈測(cè)試成為了歷史，搜索引擎變成了瀕危物種，再也不能信任任何一篇大學(xué)論文。沒(méi)有工作是安全的。沒(méi)有科學(xué)問(wèn)題是不變的。

Altman并沒(méi)有進(jìn)行研究，訓(xùn)練神經(jīng)網(wǎng)絡(luò)，或編寫ChatGPT及其更聰明的兄弟GPT-4的接口。但作為CEO——和他的聯(lián)合創(chuàng)始人Elon Musk一樣，他是一個(gè)年輕版的夢(mèng)想家/實(shí)踐家，沒(méi)有包袱——一個(gè)又一個(gè)的新聞文章都用他的照片作為人類新挑戰(zhàn)的視覺符號(hào)。至少那些沒(méi)有用OpenAI的視覺AI產(chǎn)品Dall-E生成的驚人圖像為頭條的文章是這樣。他是這一刻的先知，人們首先想咨詢的人物，關(guān)于AI如何可能引領(lǐng)一個(gè)黃金時(shí)代，或者使人類變得無(wú)關(guān)緊要，或者更糟。

那個(gè)陽(yáng)光明媚的五月天，Altman的車把他帶到了四個(gè)地方。第一個(gè)是秘密的，與Round Table的一個(gè)不公開的會(huì)議，這是一個(gè)由政府、學(xué)術(shù)界和行業(yè)人士組成的團(tuán)體。這個(gè)會(huì)議是在最后一刻組織的，它在一個(gè)名為Somers Town Coffee House的酒吧的二樓。在釀酒師Charles Wells (1842-1914)的嚴(yán)厲肖像下，Altman回答了幾乎每個(gè)聽眾都問(wèn)的相同的問(wèn)題。AI會(huì)殺了我們嗎？它可以被監(jiān)管嗎？中國(guó)怎么樣？他詳細(xì)地回答了每一個(gè)問(wèn)題，同時(shí)不時(shí)地看一眼他的手機(jī)。之后，他在Oxford Guild的600名成員面前，在豪華的Londoner Hotel進(jìn)行了一場(chǎng)篝火聊天。從那里，他來(lái)到一個(gè)地下會(huì)議室，回答了大約100名企業(yè)家和工程師的更多技術(shù)問(wèn)題?，F(xiàn)在他幾乎要遲到一個(gè)在倫敦大學(xué)學(xué)院的午后舞臺(tái)上的講座。他和他的團(tuán)隊(duì)停在一個(gè)裝卸區(qū)，被引領(lǐng)穿過(guò)一系列蜿蜒的走廊，就像Goodfellas中的Steadicam鏡頭。當(dāng)我們走路時(shí)，主持人匆忙地告訴Altman他會(huì)問(wèn)什么。當(dāng)Altman走上舞臺(tái)時(shí)，觀眾席上充滿了學(xué)者、極客和記者——爆發(fā)出歡聲。

Altman并不是一個(gè)天生的公眾人物。我曾經(jīng)在《紐約客》發(fā)表了一篇關(guān)于他的長(zhǎng)篇特寫后與他交談過(guò)?！瓣P(guān)于我太多了，”他說(shuō)。但在大學(xué)學(xué)院，正式程序結(jié)束后，他走進(jìn)了涌向舞臺(tái)腳的人群中。他的助手們?cè)噲D在Altman和人群之間進(jìn)行操作，但他擺脫了他們。他一個(gè)接一個(gè)地回答問(wèn)題，每次都緊盯著提問(wèn)者的臉，好像他是第一次聽到這個(gè)問(wèn)題。每個(gè)人都想自拍。20分鐘后，他終于允許他的團(tuán)隊(duì)把他拉出來(lái)。然后他去見英國(guó)首相Rishi Sunak。

也許有一天，當(dāng)機(jī)器人為我們寫歷史時(shí)，它們會(huì)把Altman的世界巡回演出列為一個(gè)里程碑，那一年，每個(gè)人都開始對(duì)奇點(diǎn)做出自己的個(gè)人評(píng)價(jià)。或者說(shuō)，也許誰(shuí)寫這一刻的歷史，會(huì)看到它是一個(gè)時(shí)候，一個(gè)安靜的引人注目的CEO，帶著一個(gè)打破范式的技術(shù)，試圖將一個(gè)非常特殊的世界觀注入全球的思維流中——從舊金山使命區(qū)的一個(gè)沒(méi)有標(biāo)記的四層總部到整個(gè)世界。

這篇文章發(fā)表在2023年10月的刊物上。訂閱WIRED。 這篇文章發(fā)表在2023年10月的刊物上。訂閱WIRED。照片：JESSICA CHOU 對(duì)于Altman和他的公司來(lái)說(shuō)，ChatGPT和GPT-4只是通往實(shí)現(xiàn)一個(gè)簡(jiǎn)單而震撼的使命的踏腳石，這些技術(shù)人員可能已經(jīng)在他們的肉體上刻上了這個(gè)使命。那就是建立一種人工通用智能——一個(gè)迄今為止更多地植根于科幻小說(shuō)而不是科學(xué)的概念——并使其對(duì)人類安全。在OpenAI工作的人們對(duì)這個(gè)目標(biāo)充滿了狂熱。（不過(guò)，正如辦公室咖啡館里的任何一次談話都會(huì)證實(shí)，對(duì)于研究人員來(lái)說(shuō)，“建立AGI”部分似乎比“使其安全”部分更加令人興奮。）這些人不會(huì)回避輕松地使用“超級(jí)智能”這個(gè)術(shù)語(yǔ)。他們假設(shè)AI的發(fā)展軌跡將超越生物學(xué)能夠達(dá)到的任何峰值。公司的財(cái)務(wù)文件甚至規(guī)定了一種退出方案，以備AI消除我們的整個(gè)經(jīng)濟(jì)體系。

稱OpenAI為邪教是不公平的，但當(dāng)我問(wèn)公司的幾位高管，如果有人不相信AGI真的即將到來(lái)——并且它的到來(lái)將標(biāo)志著人類歷史上的最偉大時(shí)刻——那么這個(gè)人能否在這里舒適地工作，大多數(shù)高管都不這么認(rèn)為。為什么一個(gè)不信仰者會(huì)想在這里工作呢？他們不解地問(wèn)。大家都認(rèn)為，員工隊(duì)伍——現(xiàn)在大約有500人，盡管自從你開始讀這一段以來(lái)，它可能已經(jīng)增長(zhǎng)了——已經(jīng)自我選擇，只包括信仰者。至少，正如Altman所說(shuō)，一旦你被雇傭，你似乎注定會(huì)被吸引進(jìn)去。

與此同時(shí)，OpenAI不再是它曾經(jīng)的公司。它是作為一個(gè)純粹的非營(yíng)利性研究機(jī)構(gòu)成立的，但今天大多數(shù)員工實(shí)際上都為一個(gè)據(jù)報(bào)道估值近300億美元的盈利實(shí)體工作。Altman和他的團(tuán)隊(duì)現(xiàn)在面臨的壓力是，每一個(gè)產(chǎn)品周期都要帶來(lái)一次革命，以滿足投資者的商業(yè)需求，并在一個(gè)競(jìng)爭(zhēng)激烈的環(huán)境中保持領(lǐng)先。所有這一切都要遵循一個(gè)準(zhǔn)使命，即提高人類而不是消滅人類。

這種壓力——更不用說(shuō)整個(gè)世界無(wú)情的關(guān)注——可能是一個(gè)令人衰弱的力量。披頭士樂(lè)隊(duì)引發(fā)了巨大的文化變革浪潮，但他們的革命只持續(xù)了那么久：在彈奏那首令人難忘的和弦六年后，他們甚至不再是一個(gè)樂(lè)隊(duì)了。OpenAI釋放的旋渦幾乎肯定會(huì)更大。但OpenAI的領(lǐng)導(dǎo)們發(fā)誓他們會(huì)堅(jiān)持下去。他們說(shuō)，他們想做的，只是建造足夠智能、足夠安全的計(jì)算機(jī)，以結(jié)束歷史，將人類推入一個(gè)難以想象的豐盛時(shí)代。

在80年代末和90年代初長(zhǎng)大，Sam Altman是一個(gè)狂熱于科幻和星球大戰(zhàn)的書呆子。早期的科幻作家所創(chuàng)造的世界通常有人類與超智能AI系統(tǒng)共存或競(jìng)爭(zhēng)。計(jì)算機(jī)達(dá)到或超越人類能力的想法讓Altman興奮不已，他的手指幾乎無(wú)法覆蓋鍵盤時(shí)就開始編碼了。當(dāng)他8歲時(shí)，他的父母給他買了一臺(tái)Macintosh LC II。有一天晚上，他玩得很晚，突然有個(gè)想法閃過(guò)他的腦海：“有一天這臺(tái)計(jì)算機(jī)會(huì)學(xué)會(huì)思考?！?003年，當(dāng)他作為本科生進(jìn)入斯坦福大學(xué)時(shí)，他希望能夠?qū)崿F(xiàn)這一點(diǎn)，并選修了AI課程。但他后來(lái)說(shuō)：“它根本不起作用?！边@個(gè)領(lǐng)域仍然陷入了一個(gè)被稱為AI寒冬的創(chuàng)新低谷。Altman放棄學(xué)業(yè)進(jìn)入初創(chuàng)企業(yè)世界；他的公司Loopt是Y Combinator中的第一批組織，這將成為世界上最著名的孵化器。

2014年2月，YC的創(chuàng)始導(dǎo)師Paul Graham選擇了當(dāng)時(shí)28歲的Altman接替他。Graham在公告中寫道：“Sam是我認(rèn)識(shí)的最聰明的人之一，他比我認(rèn)識(shí)的任何人，包括我自己，都更了解初創(chuàng)企業(yè)?！钡獳ltman認(rèn)為YC不僅僅是公司的跳板?！拔覀儾⒉恢魂P(guān)心初創(chuàng)企業(yè)，”他在接任后不久告訴我?！拔覀冴P(guān)心的是創(chuàng)新，因?yàn)槲覀兿嘈胚@是為每個(gè)人創(chuàng)造偉大未來(lái)的方式?！痹贏ltman看來(lái)，賺取所有那些獨(dú)角獸的關(guān)鍵不是為合作伙伴充實(shí)錢包，而是為物種級(jí)的變革籌集資金。他開始了一個(gè)研究部門，希望資助雄心勃勃的項(xiàng)目來(lái)解決世界上最大的問(wèn)題。但在他看來(lái)，AI是唯一的創(chuàng)新領(lǐng)域：一個(gè)可以比人類更好地解決人類問(wèn)題的超級(jí)智能。

幸運(yùn)的是，正當(dāng)Altman開始他的新工作時(shí)，AI寒冬正在變成一個(gè)充足的春天。計(jì)算機(jī)現(xiàn)在可以通過(guò)深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)執(zhí)行驚人的壯舉，例如標(biāo)記照片、翻譯文本和優(yōu)化復(fù)雜的廣告網(wǎng)絡(luò)。這些進(jìn)步使他確信，AGI實(shí)際上是觸手可及的。但將其交給大公司，他卻很擔(dān)心。他覺得這些公司會(huì)過(guò)于專注于他們的產(chǎn)品，以至于無(wú)法盡快開發(fā)AGI。而且，如果他們確實(shí)創(chuàng)造了AGI，他們可能會(huì)在沒(méi)有必要的預(yù)防措施的情況下魯莽地將其釋放到世界上。

當(dāng)時(shí)，Altman一直在考慮競(jìng)選加利福尼亞州州長(zhǎng)。但他意識(shí)到他完全有能力做些更大的事情——領(lǐng)導(dǎo)一個(gè)能夠改變?nèi)祟惖墓??！癆GI只會(huì)被構(gòu)建一次，”他在2021年告訴我?！安⑶覜](méi)有多少人能夠很好地管理OpenAI。我很幸運(yùn)，我一生中有一系列的經(jīng)驗(yàn)使我為此做好了積極準(zhǔn)備?！?

Altman開始與可能幫助他啟動(dòng)一個(gè)新型AI公司的人交談，這是一個(gè)非營(yíng)利性公司，它會(huì)指導(dǎo)這個(gè)領(lǐng)域走向負(fù)責(zé)任的AGI。一位志同道合的人是特斯拉和SpaceX的首席執(zhí)行官Elon Musk。正如Musk后來(lái)告訴CNBC的，他在與Google聯(lián)合創(chuàng)始人Larry Page進(jìn)行了一些馬拉松式的討論后開始關(guān)心AI的影響。Musk說(shuō)他為Page對(duì)安全幾乎沒(méi)有關(guān)心，而且似乎認(rèn)為機(jī)器人的權(quán)利與人類相等而感到震驚。當(dāng)Musk分享他的擔(dān)憂時(shí)，Page指責(zé)他是一個(gè)“種族主義者”。Musk還明白，當(dāng)時(shí)Google雇傭了世界上大部分的AI人才。他愿意為一個(gè)更傾向于人類團(tuán)隊(duì)的努力花點(diǎn)錢。

幾個(gè)月內(nèi)，Altman從Musk（承諾捐款1億美元，還有他的時(shí)間）和Reid Hoffman（捐款1000萬(wàn)美元）那里籌集到了資金。其他資助者包括Peter Thiel、Jessica Livingston、亞馬遜網(wǎng)絡(luò)服務(wù)和YC研究。Altman開始秘密地招募團(tuán)隊(duì)。他將搜索限制在相信AGI的人中，這一限制縮小了他的選擇，但他認(rèn)為這是至關(guān)重要的?！盎氐?015年，當(dāng)我們?cè)谡衅笗r(shí)，對(duì)于一個(gè)AI研究員來(lái)說(shuō)，認(rèn)真對(duì)待AGI幾乎被認(rèn)為是事業(yè)的終結(jié)，”他說(shuō)?！暗蚁胍切┱J(rèn)真對(duì)待它的人?！?

Stripe的首席技術(shù)官Greg Brockman是這樣的一個(gè)人，他同意成為OpenAI的CTO。另一位關(guān)鍵的聯(lián)合創(chuàng)始人是Andrej Karpathy，他曾在Google Brain工作，這是搜索巨頭的前沿AI研究機(jī)構(gòu)。但也許Altman最追求的目標(biāo)是一位名叫Ilya Sutskever的俄羅斯工程師。

Sutskever的背景毋庸置疑。他的家人從俄羅斯移民到以色列，然后到加拿大。在多倫多大學(xué)，他是Geoffrey Hinton的杰出學(xué)生，Hinton因其在深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)方面的工作而被譽(yù)為現(xiàn)代AI的教父。Hinton仍與Sutskever保持親近關(guān)系，對(duì)其門徒的魔法手段感到驚嘆。在Sutskever進(jìn)入實(shí)驗(yàn)室初期，Hinton給了他一個(gè)復(fù)雜的項(xiàng)目。Sutskever厭倦了編寫代碼來(lái)做必要的計(jì)算，他告訴Hinton，如果他為這項(xiàng)任務(wù)編寫一個(gè)自定義的編程語(yǔ)言，會(huì)更容易。Hinton有點(diǎn)惱火，并試圖警告他的學(xué)生遠(yuǎn)離他認(rèn)為會(huì)是一個(gè)月長(zhǎng)的分心。然后Sutskever坦白說(shuō)：“我今天早上做的?！?

Sutskever成為了AI超級(jí)巨星，他共同撰寫了一篇開創(chuàng)性的論文，該論文展示了AI如何僅通過(guò)接觸大量的數(shù)據(jù)就學(xué)會(huì)識(shí)別圖像。他最終很高興地成為了Google Brain團(tuán)隊(duì)的關(guān)鍵科學(xué)家。

2015年中期，Altman給Sutskever發(fā)送了冷郵件，邀請(qǐng)他與Musk、Brockman和其他人在Palo Alto的Sand Hill Road的豪華Rosewood Hotel共進(jìn)晚餐。只有后來(lái)Sutskever才弄清楚他是榮譽(yù)嘉賓。“這是關(guān)于AI和未來(lái)的AGI的一般對(duì)話，”他說(shuō)。更具體地說(shuō)，他們討論了“Google和DeepMind是否遙遙領(lǐng)先，以至于不可能趕上他們，還是仍然有可能，正如Elon所說(shuō)，創(chuàng)建一個(gè)實(shí)驗(yàn)室作為一個(gè)平衡”。盡管晚餐上沒(méi)有人明確試圖招募Sutskever，但這次談話吸引了他。

在那之后不久，Sutskever給Altman寫了一封電子郵件，說(shuō)他愿意領(lǐng)導(dǎo)這個(gè)項(xiàng)目，但這封郵件卻卡在了他的草稿文件夾里。Altman重新聯(lián)系，經(jīng)過(guò)數(shù)月抵御Google的反擊，Sutskever最終簽約。很快，他成為了公司的靈魂和研究的驅(qū)動(dòng)力。

Sutskever加入Altman和Musk的團(tuán)隊(duì)，招募人員參與項(xiàng)目，最終在納帕谷舉行了一次休閑會(huì)議，其中幾位潛在的OpenAI研究人員互相激發(fā)了彼此的興趣。當(dāng)然，有些目標(biāo)會(huì)抵制這種誘惑。John Carmack，背后是Doom、Quake和無(wú)數(shù)其他標(biāo)題的傳奇游戲編碼員，拒絕了Altman的提議。

OpenAI于2015年12月正式推出。當(dāng)時(shí)，當(dāng)我采訪Musk和Altman時(shí)，他們向我展示了該項(xiàng)目，作為一個(gè)努力通過(guò)與世界分享來(lái)使AI變得安全和可訪問(wèn)的努力。換句話說(shuō)，開源。他們告訴我，OpenAI不會(huì)申請(qǐng)專利。每個(gè)人都可以利用他們的突破性成果。這不會(huì)賦予權(quán)力給某個(gè)未來(lái)的邪惡博士嗎？我想知道。Musk說(shuō)這是一個(gè)好問(wèn)題。但Altman有一個(gè)答案：人類通常是善良的，因?yàn)镺penAI將為絕大多數(shù)人提供強(qiáng)大的工具，所以壞人會(huì)被壓倒。他承認(rèn)，如果邪惡博士使用這些工具建造一些無(wú)法被對(duì)抗的東西，“那我們真的處于一個(gè)非常糟糕的地方?！钡玀usk和Altman都相信，AI的更安全之路將掌握在一個(gè)研究機(jī)構(gòu)的手中，這個(gè)機(jī)構(gòu)不受盈利動(dòng)機(jī)的污染，這是一個(gè)持續(xù)的誘惑，以忽視人類的需求，尋找每季度的絕佳結(jié)果。

Altman提醒我不要期待很快看到結(jié)果?！斑@在很長(zhǎng)一段時(shí)間里都會(huì)像一個(gè)研究實(shí)驗(yàn)室?！彼f(shuō)。

另一個(gè)壓低期望的原因是，Google和其他公司已經(jīng)開發(fā)并應(yīng)用AI多年。雖然OpenAI已經(jīng)獲得了10億美元的承諾（主要來(lái)自Musk）、一流的研究和工程師團(tuán)隊(duì)以及崇高的使命，但它對(duì)如何追求目標(biāo)毫無(wú)頭緒。

Altman回憶起一個(gè)時(shí)刻，小團(tuán)隊(duì)聚集在Brockman的公寓——他們還沒(méi)有辦公室。“我在想，我們應(yīng)該做什么？”

我和Brockman在舊金山吃早餐，那是在OpenAI成立一年多之后。對(duì)于一個(gè)公司的首席技術(shù)官，他的名字中帶有open這個(gè)詞，他對(duì)細(xì)節(jié)很吝嗇。他確實(shí)證實(shí)，這家非營(yíng)利機(jī)構(gòu)可以在一段時(shí)間內(nèi)利用其初始的10億美元捐款。25名員工的工資——他們的工資遠(yuǎn)低于市場(chǎng)價(jià)值——占據(jù)了OpenAI開支的大部分。“我們的目標(biāo)是，我們真正推動(dòng)的事情，”他說(shuō)，“是擁有可以做人類以前不可能做的事情的系統(tǒng)?！钡壳?，這看起來(lái)就像一群研究人員發(fā)布論文。采訪結(jié)束后，我陪他走到公司在Mission District的新辦公室，但他只允許我走到前廳。他確實(shí)躲進(jìn)一個(gè)壁櫥給我一件T恤。

如果我進(jìn)去問(wèn)問(wèn)，我可能會(huì)了解到OpenAI是如何困境的。Brockman現(xiàn)在承認(rèn)“什么都沒(méi)有起作用?！彼麄兊难芯咳藛T在天花板上扔算法意大利面，看看哪些粘住了。他們深入研究了解決視頻游戲的系統(tǒng)，并在機(jī)器人技術(shù)上花了很多心思?！拔覀冎牢覀兿胱鍪裁?，”Altman說(shuō)。“我們知道為什么想這么做。但我們不知道怎么做?！?

但他們相信。支持他們的樂(lè)觀主義是使用深度學(xué)習(xí)技術(shù)的人工神經(jīng)網(wǎng)絡(luò)的穩(wěn)步改進(jìn)?！翱傮w思路是，不要對(duì)深度學(xué)習(xí)下賭注，”Sutskever說(shuō)。他說(shuō)，追求AGI“不是完全瘋狂，只是適度的瘋狂?！?

OpenAI的關(guān)鍵轉(zhuǎn)折開始于他們聘請(qǐng)了一個(gè)尚未廣為人知的研究員Alec Radford，他在2016年加入，離開了他在宿舍里與人合創(chuàng)的小型波士頓AI公司。在接受OpenAI的邀請(qǐng)后，他告訴他的高中校友雜志，接受這個(gè)新角色“有點(diǎn)像加入研究生課程”——一個(gè)開放的、壓力較小的研究AI的位置。

他實(shí)際上扮演的角色更像Larry Page發(fā)明PageRank。

雖然Radford不善于與媒體交往，也沒(méi)有接受過(guò)關(guān)于他工作的采訪，但他通過(guò)一長(zhǎng)串的電子郵件交流回應(yīng)了我關(guān)于他在OpenAI初期的問(wèn)題。他最大的興趣是讓神經(jīng)網(wǎng)絡(luò)與人類進(jìn)行清晰的對(duì)話。這與制作聊天機(jī)器人的傳統(tǒng)腳本模型有所不同，這種方法被用于從原始的ELIZA到流行的助手Siri和Alexa——所有這些都很不給力。他寫道：“目標(biāo)是看看語(yǔ)言模型是否對(duì)任何任務(wù)、任何設(shè)置、任何領(lǐng)域、任何事情都有用?！碑?dāng)時(shí)，他解釋說(shuō)，“語(yǔ)言模型被視為玩具，只能偶爾生成有意義的句子，只有當(dāng)你真的瞇起眼睛看時(shí)?！彼牡谝粋€(gè)實(shí)驗(yàn)涉及掃描20億Reddit評(píng)論來(lái)訓(xùn)練語(yǔ)言模型。像OpenAI早期的許多實(shí)驗(yàn)一樣，它失敗了。但沒(méi)關(guān)系。這位23歲的年輕人得到了繼續(xù)前進(jìn)、再次失敗的許可。Brockman說(shuō)：“我們只是像，Alec很棒，讓他做自己的事情?！?

他的下一個(gè)主要實(shí)驗(yàn)是受到OpenAI計(jì)算能力的限制而形成的，這種限制使他在一個(gè)專注于單一領(lǐng)域的較小數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)——Amazon的產(chǎn)品評(píng)論。一個(gè)研究員收集了大約1億條這樣的評(píng)論。Radford訓(xùn)練了一個(gè)語(yǔ)言模型，簡(jiǎn)單地預(yù)測(cè)生成用戶評(píng)論的下一個(gè)字符。

Radford開始嘗試transformer架構(gòu)?！拔以趦芍軆?nèi)取得的進(jìn)展比過(guò)去兩年還要多，”他說(shuō)。

但后來(lái)，該模型自己判斷出評(píng)論是積極的還是消極的——當(dāng)你編程讓模型創(chuàng)建積極或消極的內(nèi)容時(shí)，它會(huì)根據(jù)要求提供褒貶之詞。（誠(chéng)然，措辭有些笨拙：“我喜歡這種武器的外觀……任何喜歡國(guó)際象棋的人都必須看！”）“這完全出乎我的意料，”Radford說(shuō)。評(píng)論的情感——其有利或不利的要點(diǎn)——是語(yǔ)義的復(fù)雜功能，但不知怎么的，Radford的系統(tǒng)的某一部分已經(jīng)對(duì)此有了感覺。在OpenAI內(nèi)部，這部分神經(jīng)網(wǎng)絡(luò)被稱為“無(wú)監(jiān)督情感神經(jīng)元”。

Sutskever和其他人鼓勵(lì)Radford將他的實(shí)驗(yàn)擴(kuò)展到Amazon評(píng)論之外，利用他的見解來(lái)訓(xùn)練神經(jīng)網(wǎng)絡(luò)進(jìn)行廣泛主題的對(duì)話或回答問(wèn)題。

然后，好運(yùn)降臨了OpenAI。2017年初，由八名Google研究員共同撰寫的一篇不起眼的預(yù)印版研究論文出現(xiàn)了。它的正式標(biāo)題是“Attention Is All You Need”，但它被稱為“transformer paper”，這既反映了這個(gè)想法的顛覆性質(zhì)，也是為了紀(jì)念那些從卡車變形為巨大機(jī)器人的玩具。Transformers使得神經(jīng)網(wǎng)絡(luò)能夠更高效地理解和生成語(yǔ)言。他們通過(guò)并行分析散文塊，并弄清楚哪些元素值得“關(guān)注”來(lái)實(shí)現(xiàn)這一點(diǎn)。這大大優(yōu)化了生成連貫文本以響應(yīng)提示的過(guò)程。最終，人們意識(shí)到，同樣的技術(shù)也可以生成圖像甚至視頻。盡管transformer paper會(huì)被認(rèn)為是當(dāng)前AI狂熱的催化劑——可以想象它就像使Beatles成為可能的Elvis——但當(dāng)時(shí)Ilya Sutskever只是少數(shù)幾個(gè)了解這次突破有多強(qiáng)大的人之一。“當(dāng)Ilya看到transformer出來(lái)時(shí)，真正的頓悟時(shí)刻到來(lái)了，”Brockman說(shuō)?！八拖?，'這就是我們一直在等的?！@一直是我們的策略——在問(wèn)題上努力推進(jìn)，然后相信我們或者該領(lǐng)域的某個(gè)人會(huì)設(shè)法找出缺失的成分?！?

Radford開始嘗試transformer架構(gòu)?！拔以趦芍軆?nèi)取得的進(jìn)展比過(guò)去兩年還要多，”他說(shuō)。他開始明白，要充分發(fā)揮新模型的作用，關(guān)鍵是增加規(guī)?！诰薮蟮臄?shù)據(jù)集上訓(xùn)練它。這個(gè)想法被Radford的合作者Rewon Child稱為“Big Transformer”。

這種方法需要OpenAI進(jìn)行文化上的改變，集中它之前所缺乏的注意力?！盀榱死胻ransformer，你需要放大它，”Quora的首席執(zhí)行官Adam D’Angelo說(shuō)，他是OpenAI董事會(huì)的成員?！澳阈枰褚粋€(gè)工程組織來(lái)運(yùn)行它。你不能讓每個(gè)研究員都嘗試做自己的事情、訓(xùn)練自己的模型，并制作你可以發(fā)表論文的精美東西。你必須做這些更乏味、不那么優(yōu)雅的工作。”他補(bǔ)充說(shuō)，這是OpenAI能夠做到的，也是其他任何人都沒(méi)有做到的事情。

Mira Murati，OpenAI的首席技術(shù)官。攝影：JESSICA CHOU

Radford和他的合作者為他們創(chuàng)建的模型起的名字是“generatively pretrained transformer（生成預(yù)訓(xùn)練變換器）”的首字母縮寫——GPT-1。最終，這個(gè)模型被通稱為“generative AI（生成式AI）”。為了構(gòu)建它，他們使用了一套包含7,000本未出版書籍的集合，其中很多是浪漫、奇幻和冒險(xiǎn)的體裁，然后在Quora的問(wèn)題和答案上進(jìn)行了完善，還有數(shù)千段取自中學(xué)和高中考試的段落?？偟膩?lái)說(shuō)，該模型包含了1.17億個(gè)參數(shù)或變量。它在理解語(yǔ)言和生成答案方面超越了之前的所有模型。但最顯著的結(jié)果是，處理如此大量的數(shù)據(jù)使得模型能夠提供超出其訓(xùn)練范圍的結(jié)果，在全新的領(lǐng)域提供專家知識(shí)。這些未經(jīng)計(jì)劃的機(jī)器人能力被稱為零射擊。它們?nèi)匀皇寡芯咳藛T感到困惑，并解釋了該領(lǐng)域的許多人對(duì)所謂的大型語(yǔ)言模型感到不安的原因。

Radford回憶起在OpenAI辦公室的一個(gè)深夜。“我一遍又一遍地說(shuō)，'哇，那很酷，但我很確定它不可能做到x?！缓笪視?huì)迅速編寫一個(gè)評(píng)估，果然，它能夠做到x?！?

每一個(gè)GPT版本都會(huì)做得更好，部分原因是因?yàn)槊恳粋€(gè)版本都比前一個(gè)模型消耗了更多的數(shù)據(jù)。在創(chuàng)建第一個(gè)版本僅一年之后，OpenAI使用了驚人的15億參數(shù)在開放互聯(lián)網(wǎng)上訓(xùn)練了GPT-2。就像一個(gè)小孩掌握說(shuō)話，它的回應(yīng)變得更好、更連貫。因此，OpenAI猶豫是否將程序釋放到外部世界。Radford擔(dān)心它可能被用來(lái)生成垃圾郵件?！拔矣浀迷?008年讀Neal Stephenson的《Anathem》，在那本書中，互聯(lián)網(wǎng)被垃圾郵件生成器淹沒(méi)，”他說(shuō)?！拔以J(rèn)為那是很不可能的，但當(dāng)我多年來(lái)一直在研究語(yǔ)言模型，并且它們變得更好時(shí)，我不舒服地意識(shí)到這是一個(gè)真正的可能性?！?

事實(shí)上，OpenAI的團(tuán)隊(duì)開始認(rèn)為，把他們的工作放在Dr. Evil容易訪問(wèn)的地方可能并不是一個(gè)好主意。“我們認(rèn)為開源GPT-2可能真的很危險(xiǎn)，”首席技術(shù)官M(fèi)ira Murati說(shuō)，她于2018年加入該公司。“我們與錯(cuò)誤信息專家進(jìn)行了大量的工作，進(jìn)行了一些紅隊(duì)測(cè)試。我們內(nèi)部進(jìn)行了很多關(guān)于發(fā)布多少內(nèi)容的討論。”最終，OpenAI暫時(shí)沒(méi)有發(fā)布完整版本，而是為公眾提供了一個(gè)不太強(qiáng)大的版本。當(dāng)公司最終分享完整版時(shí)，世界管理得很好，但不能保證更強(qiáng)大的模型會(huì)避免災(zāi)難。

OpenAI正在制造足夠聰明被認(rèn)為是危險(xiǎn)的產(chǎn)品，并且正在努力使它們安全，這證明了該公司已經(jīng)找到了其魔力。Sutskever說(shuō)：“我們已經(jīng)找到了進(jìn)步的公式，現(xiàn)在每個(gè)人都認(rèn)為這是深度學(xué)習(xí)的氧氣和氫——大型神經(jīng)網(wǎng)絡(luò)和數(shù)據(jù)的計(jì)算?！?

對(duì)于Altman來(lái)說(shuō)，這是一次令人難以置信的經(jīng)歷?！叭绻銌?wèn)10歲的我，我過(guò)去經(jīng)?；孟腙P(guān)于AI的事情，會(huì)發(fā)生什么，我相當(dāng)有信心地預(yù)測(cè)，首先我們會(huì)有機(jī)器人，它們會(huì)執(zhí)行所有的體力勞動(dòng)。然后我們會(huì)有系統(tǒng)可以做基本的認(rèn)知?jiǎng)趧?dòng)。在很長(zhǎng)的時(shí)間之后，也許我們會(huì)有系統(tǒng)可以做復(fù)雜的事情，比如證明數(shù)學(xué)定理。最后，我們將擁有可以創(chuàng)造新事物、制作藝術(shù)品、寫作和做這些深入人類的事情的AI。這是一個(gè)糟糕的預(yù)測(cè)，它正好相反?！?

世界還不知道，但Altman和Musk的研究實(shí)驗(yàn)室已經(jīng)開始攀爬，很可能朝著AGI的頂峰前進(jìn)。OpenAI背后的瘋狂想法突然變得并不那么瘋狂了。

到2018年初，OpenAI開始集中精力研究大型語(yǔ)言模型，或LLMs。但是Elon Musk并不滿意。他覺得進(jìn)展不夠，或者也許他覺得現(xiàn)在OpenAI已經(jīng)找到了一些東西，它需要領(lǐng)導(dǎo)力來(lái)抓住它的優(yōu)勢(shì)?；蛘?，正如他后來(lái)解釋的，他覺得安全應(yīng)該更加優(yōu)先。不管他的問(wèn)題是什么，他都有一個(gè)解決方案：把一切交給他。他提議在公司中占有多數(shù)股權(quán)，將其加入他的多個(gè)全職工作（Tesla, SpaceX）和監(jiān)督職責(zé)（Neuralink和Boring Company）的組合中。

Musk相信他有權(quán)擁有OpenAI。“沒(méi)有我，它不會(huì)存在，”他后來(lái)告訴CNBC。“是我想出了這個(gè)名字！”（事實(shí)如此。）但Altman和OpenAI的其他核心團(tuán)隊(duì)并不想成為Muskiverse的一部分。當(dāng)他們明確表示這一點(diǎn)時(shí)，Musk切斷了與他們的聯(lián)系，并向公眾提供了一個(gè)不完整的解釋，說(shuō)他離開董事會(huì)是為了避免與特斯拉的AI努力發(fā)生沖突。他在那年初的一個(gè)全體員工會(huì)議上告別，預(yù)測(cè)OpenAI會(huì)失敗。他還至少稱其中一位研究員為“愚蠢的人”。

他也帶走了他的錢。由于公司沒(méi)有收入，這是一個(gè)生存危機(jī)?！癊lon正在切斷他的支持，”Altman在一個(gè)慌張的電話中對(duì)Reid Hoffman說(shuō)?！拔覀?cè)撛趺崔k？”Hoffman自愿支持公司，支付日常開銷和工資。

但這只是一個(gè)臨時(shí)的解決方案；OpenAI必須在其他地方找到大筆資金。硅谷喜歡為從事時(shí)尚技術(shù)的有才華的人投錢。但如果他們?cè)谝粋€(gè)非營(yíng)利組織工作，情況就不太一樣了。對(duì)OpenAI來(lái)說(shuō)，獲得第一個(gè)十億是一個(gè)巨大的挑戰(zhàn)。為了訓(xùn)練和測(cè)試GPT的新一代——然后獲得部署它們所需的計(jì)算——公司需要另外十億，而且要盡快。而這只是一個(gè)開始。

在重組文件中的某個(gè)地方，有一條條款規(guī)定，如果公司確實(shí)成功創(chuàng)建了AGI，所有的財(cái)務(wù)安排都將被重新考慮。畢竟，從那時(shí)起，這將是一個(gè)全新的世界。

于是在2019年3月，OpenAI提出了一個(gè)奇特的解決方案。它仍然是一個(gè)非營(yíng)利組織，完全致力于其使命。但它也將創(chuàng)建一個(gè)營(yíng)利實(shí)體。這種安排的實(shí)際結(jié)構(gòu)非常復(fù)雜，但基本上整個(gè)公司現(xiàn)在都在從事一個(gè)“有上限”的盈利業(yè)務(wù)。如果達(dá)到了這個(gè)上限——這個(gè)數(shù)字并不為公眾所知，但如果你從其章程中讀出來(lái)的信息來(lái)看，它可能是數(shù)萬(wàn)億——那么超出的部分就會(huì)回到非營(yíng)利研究實(shí)驗(yàn)室。這種新穎的方案幾乎是一個(gè)量子方法的公司：這取決于你的時(shí)間-空間觀點(diǎn)，它是營(yíng)利和非營(yíng)利的。這些細(xì)節(jié)被體現(xiàn)在充滿盒子和箭頭的圖表中，就像科學(xué)論文中間的那些圖表，只有博士或退學(xué)的天才才敢于探討。當(dāng)我向Sutskever建議它看起來(lái)像是某種未來(lái)的GPT-6可能會(huì)提出的避稅方法時(shí)，他并不喜歡我的比喻。他說(shuō)：“這不是關(guān)于會(huì)計(jì)的。”

但會(huì)計(jì)是至關(guān)重要的。一個(gè)為盈利的公司為了利潤(rùn)而優(yōu)化。當(dāng)公司像Meta這樣的公司在研發(fā)上投入數(shù)十億美元時(shí)，它們會(huì)受到股東的壓力，這是有原因的。這怎么可能不影響公司的運(yùn)營(yíng)方式呢？而且，避免商業(yè)化不就是Altman最初創(chuàng)建OpenAI為非營(yíng)利組織的原因嗎？根據(jù)首席運(yùn)營(yíng)官Brad Lightcap的說(shuō)法，公司領(lǐng)導(dǎo)的觀點(diǎn)是，仍然是非營(yíng)利控制實(shí)體的董事會(huì)將確保為了收入和利潤(rùn)的驅(qū)動(dòng)不會(huì)壓倒原始的想法。他說(shuō)：“我們需要維持使命作為我們存在的原因，這不僅僅是精神上的，而且還應(yīng)該在公司的結(jié)構(gòu)中編碼。”董事會(huì)成員Adam D’Angelo表示，他非常重視這一責(zé)任：“我的職責(zé)，以及董事會(huì)其他成員的職責(zé)，是確保OpenAI忠實(shí)于其使命。”

Lightcap解釋說(shuō)，潛在的投資者被警告了這些邊界。“我們有一個(gè)法律免責(zé)聲明，它說(shuō)作為投資者，你可能會(huì)失去所有的錢，”他說(shuō)?！拔覀儾皇窃谶@里為了你的回報(bào)。我們首先在這里為了實(shí)現(xiàn)一個(gè)技術(shù)使命。順便說(shuō)一句，我們真的不知道在后AGI世界中，錢會(huì)扮演什么角色?！?

那最后一句話不是一個(gè)隨意的笑話。OpenAI的計(jì)劃確實(shí)包括在計(jì)算機(jī)達(dá)到最終前沿的情況下進(jìn)行重置。在重組文件中的某個(gè)地方，有一條條款規(guī)定，如果公司確實(shí)成功創(chuàng)建了AGI，所有的財(cái)務(wù)安排都將被重新考慮。畢竟，從那時(shí)起，這將是一個(gè)全新的世界。從那時(shí)起，人類將有一個(gè)可以做我們做的大部分事情的外星合作伙伴，只不過(guò)做得更好。所以之前的安排可能實(shí)際上已經(jīng)結(jié)束了。

但是，有一個(gè)問(wèn)題：目前，OpenAI并不聲稱知道AGI究竟是什么。這個(gè)決定將由董事會(huì)做出，但目前尚不清楚董事會(huì)將如何定義它。當(dāng)我詢問(wèn)董事會(huì)成員Altman要求明確時(shí)，他的回答并不完全公開?！斑@不僅僅是一個(gè)圖靈測(cè)試，而是我們可能使用的許多事物，”他說(shuō)。“我很愿意告訴你，但我喜歡保密交談。我意識(shí)到這是模糊不清的。但我們不知道那時(shí)會(huì)是什么樣子?！?

盡管如此，包括“財(cái)務(wù)安排”條款并不僅僅是為了好玩：OpenAI的領(lǐng)導(dǎo)認(rèn)為，如果公司成功到達(dá)其崇高的利潤(rùn)上限，其產(chǎn)品可能已經(jīng)表現(xiàn)得足夠好，達(dá)到AGI。不管那是什么。

Sutskever說(shuō)：“我后悔的是，我們選擇了加倍投入到AGI這個(gè)術(shù)語(yǔ)上?；剡^(guò)頭來(lái)看，這是一個(gè)令人困惑的術(shù)語(yǔ)，因?yàn)樗鼜?qiáng)調(diào)了一切之上的通用性。GPT-3是通用AI，但我們不真正愿意稱其為AGI，因?yàn)槲覀兿胍氖侨祟愃降哪芰Α５陂_始時(shí)，OpenAI的想法是超級(jí)智能是可以實(shí)現(xiàn)的。這是終局，是AI領(lǐng)域的最終目標(biāo)?！?

這些保留意見并沒(méi)有阻止一些最聰明的風(fēng)險(xiǎn)投資家在2019年的融資輪中向OpenAI投入資金。那時(shí)，第一個(gè)投資的風(fēng)險(xiǎn)投資公司是Khosla Ventures，它投入了5000萬(wàn)美元。據(jù)Vinod Khosla說(shuō)，這是他最大的初始投資的兩倍?！叭绻覀冚斄?，我們就損失5000萬(wàn)美元，”他說(shuō)?！叭绻覀冓A了，我們就贏得50億美元?！逼渌顿Y者據(jù)說(shuō)包括頂級(jí)的風(fēng)險(xiǎn)投資公司Thrive Capital、Andreessen Horowitz、Founders Fund和Sequoia。

這種轉(zhuǎn)變也使OpenAI的員工能夠獲得一些股權(quán)。但Altman沒(méi)有。他說(shuō)，原本他打算包括自己，但沒(méi)有做到。然后他決定，他不需要自己創(chuàng)辦并領(lǐng)導(dǎo)的300億美元公司的任何部分。“有意義的工作對(duì)我更重要，”他說(shuō)?！拔也豢紤]這個(gè)。我真的不明白為什么人們?nèi)绱嗽谝狻！?

因?yàn)椤悴辉谀愎餐瑒?chuàng)辦的公司中持有股份是很奇怪的嗎？

“如果我還沒(méi)有大量的錢，那會(huì)更奇怪，”他說(shuō)?！八坪跞藗兒茈y想象有足夠的錢。但我覺得我有足夠的?！保ㄗ⒁猓簩?duì)于硅谷來(lái)說(shuō)，這是非常奇怪的。）Altman開玩笑說(shuō)，他正在考慮取得一股股權(quán)，“這樣我再也不用回答那個(gè)問(wèn)題了?！?

OpenAI真正想要的是什么【2】

噴嚏優(yōu)選

【無(wú)需App在移動(dòng)設(shè)備上看噴嚏】在瀏覽器地址欄輸入噴嚏網(wǎng)址即可：www. ，推薦chrome瀏覽器。 

廣告