“有一天，計算機將變得比我們更聰明?！?/p>
過去半年當中，OpenAI是最沒有發(fā)言紀律的公司，他的幾位創(chuàng)始人輪番在各個媒體平臺發(fā)言，Sam Altman幾乎接受了全部美國最重要的媒體的訪談，包括個人媒體，甚至包括中國的媒體和個人媒體。
下面是Ilya Sutskever在TED的一篇演講，原文題目是The Exciting，Perilous Journey Toward AGI。
很能理解為什么TED為什么會在此時此刻釋出這樣一篇演講，在他這篇演講之前，OpenAI的前CEO和總裁Sam Altman和Greg Brockman已經(jīng)先后在TED做過演講，主題和Ilya是一樣的，都是關(guān)于AI和AGI。
如今的公議，Ilya是促使OpenAI董事會趕走Altman和Brockman那個主導(dǎo)者。他的同事，以及他的同行似乎都把矛盾指向他。
幾個小時前，Andrew Ng在社交網(wǎng)絡(luò)上發(fā)貼，感謝OpenAI的工作之外，直言不諱地批評了某一小撮人，稱他的愚蠢決定傷害了所有人。他特別艾特了Altman、Brockman和仍在OpenAI擔任臨時CEO的Murati。
在OpenAI創(chuàng)始人當中，只有Ilya沒有被提到。
Ilya可能是通往AGI道路上最為關(guān)鍵的一個人，不是別人
但是，恰巧認真拜讀過同事們所整理的Ilya最近幾年的訪談紀要，從純粹技術(shù)背景來看，Ilya也許是OpenAI團隊當中最重要的那個人，至少在過去是的。
現(xiàn)在，至少應(yīng)該了解一下，這位能夠趕走公司CEO、總裁的人，究竟是如何看待未來的。他堅定地認為，“有一天，在我們計算機內(nèi)部的數(shù)字大腦甚至比我們自己的生物大腦更好。計算機將變得比我們更聰明?！?/p>
Ilya本人覺得他也看到了一種力量，讓人們擺脫對這種AGI時代的恐懼。以下為其演講全文：
你們都見證了人工智能的進展，你們中的許多人可能曾與計算機交流，計算機能理解你們并回答。
隨著技術(shù)的快速進展，不難想象，在未來某個時刻，我們的智能計算機將變得和人一樣聰明，甚至更聰明。當這一切發(fā)生時，人工智能的影響將是真的，真的巨大。你可能會想，當技術(shù)如此重要時，一切是否都會安好？
我的目標是指出一種你們可能沒有注意到的力量，這給了我希望，確實我們對結(jié)果會感到滿意。
那么，人工智能是什么？它是如何工作的呢？事實證明，解釋人工智能是非常容易的，只需要一句話。人工智能就是大型計算機內(nèi)部的數(shù)字大腦，這就是人工智能。你們見過的所有AI興趣都基于這個理念。幾十年來，科學(xué)家和工程師一直在研究這些數(shù)字大腦應(yīng)該如何工作，以及如何構(gòu)建它們。
現(xiàn)在，我發(fā)現(xiàn)人類智慧的源泉是我們的生物大腦，這一點非常有趣。人工智能的智慧之所在是一顆人工大腦，這是非常貼切的。
在這里，我想稍微偏離一下話題，告訴你我是如何涉足人工智能的。
有三股力量吸引著我進入這個領(lǐng)域。第一是在我還是個五六歲的小孩時，我被自己的意識體驗深深打動，我意識到我是我，我在經(jīng)歷著各種事物。這種感覺隨著時間的推移逐漸消失，但現(xiàn)在簡單地提起來，它又回來了。但這種我是我，你是你的感覺讓我覺得非常奇怪，幾乎讓人感到不安。
當我了解到人工智能時，我想，哇，如果我們能構(gòu)建一臺智能的計算機，也許我們將能夠了解關(guān)于我們自己、關(guān)于我們自己意識的一些東西。這是引領(lǐng)我走向人工智能的第一個動力。
第二個動力在某種程度上更為平凡。我只是對智慧的工作方式感到好奇。當我是90年代末的十幾歲少年時，我感到科學(xué)似乎根本不知道智慧是如何工作的。
還有第三個原因，就是在那時對我來說很明顯，如果人工智能奏效，它將具有令人難以置信的影響。
當然，并不明顯是否能夠在人工智能領(lǐng)域取得進展，但如果可能的話，它將產(chǎn)生令人難以置信的影響。因此，這三個原因讓我投身于人工智能。這就是為什么我認為這是一個值得我花費所有精力的領(lǐng)域的原因。
現(xiàn)在，讓我們回到我們的人工智能，今天的數(shù)字大腦。這些數(shù)字大腦遠遠沒有我們的生物大腦聰明。當你與一個AI聊天機器人交談時，你很快就會發(fā)現(xiàn)它并不完整，它大致上理解了，但你可以清楚地看到有很多事情它做不到，而且有一些奇怪的差距。
我聲明，這種情況是暫時的。隨著研究人員和工程師繼續(xù)努力研究人工智能，有一天，生活在我們計算機內(nèi)部的數(shù)字大腦將變得和我們一樣，甚至比我們自己的生物大腦更好。計算機將變得比我們更聰明。我們稱之為AGI，即人工通用智能，當我們能夠教授AI做任何我能做或其他人能做的事情的水平。
盡管AGI今天尚不存在，但我們?nèi)匀豢梢詫ζ浣ǔ珊蟮挠绊懹幸稽c了解。很明顯，這樣的AGI將對生活、人類活動和社會的各個方面產(chǎn)生巨大的影響。
我想進行一個快速的案例研究，這是一個非常廣泛技術(shù)的狹窄示例。我要提出的例子是醫(yī)療保健。你們中的許多人可能曾經(jīng)試圖去看醫(yī)生。
有時你需要等待很多個月，然后當你終于能夠見到醫(yī)生時，你只能和醫(yī)生有很短的時間。而且，醫(yī)生只是一個人，對所有存在的醫(yī)學(xué)知識只能有限了解。然后，最后，你得支付一大筆賬單。
如果你有一臺智能計算機，一臺被構(gòu)建成醫(yī)生的AGI，它將擁有對所有醫(yī)學(xué)文獻的全面而詳盡的知識。它將擁有數(shù)十億小時的臨床經(jīng)驗，并且始終可用，而且價格極其便宜。
當這種情況發(fā)生時，我們將回顧今天的醫(yī)療保健，就像我們回顧16世紀的牙科一樣，他們把人用帶子捆住，然后進行治療。今天的醫(yī)療保健將會是這個樣子。再次強調(diào)，這只是一個例子。AGI將對人類活動的每一個領(lǐng)域產(chǎn)生巨大而令人難以置信的影響。
但是當你看到這么大的影響時，你可能會想，這項技術(shù)難道不是太具有影響力了嗎？實際上，對于AGI的每一個積極應(yīng)用，都將有一個負面應(yīng)用。這項技術(shù)也將與我們習慣的技術(shù)不同，因為它將具有自我改進的能力。有可能構(gòu)建一個能夠研究下一代AGI的AGI。
我們曾經(jīng)經(jīng)歷過這種快速技術(shù)進步的最接近的類似是工業(yè)革命。當時人類社會的物質(zhì)狀況是非常穩(wěn)定的，然后迅速增長，迅速增長。
有了AGI，類似的情況可能會再次發(fā)生，但時間會更短。此外，還有一些擔憂，如果AGI變得非常強大，這是可能的。也許它會變得不受控制，因為它是一個agent。
這是一種對這項前所未有、尚不存在的技術(shù)的擔憂。確實，你看看AGI的所有積極潛力和所有令人擔憂的可能性，你可能會說，天哪，這一切都將何去何從？
我在創(chuàng)建OpenAI時的一個動機是，除了開發(fā)這項技術(shù)之外，還要解決AGI提出的問題，解決困擾我們的難題，解決我們提出的擔憂。除了與政府合作，幫助他們了解即將發(fā)生的事情并為其做好準備之外，我們還在進行大量研究，解決技術(shù)方面的問題，以確保AI永遠不會變得不受控制。這也是我正在致力于的事情。
但我認為需要注意的是，AI和AGI實際上是經(jīng)濟中唯一一個引起很多興奮、很多投資的領(lǐng)域。每個人都在致力于這項工作。世界上有大量的實驗室試圖構(gòu)建相同的東西。即使OpenAI采取了我提到的這些可取的步驟，那么其他公司和其他國家呢？
這就是我想談?wù)劦牧α康牡胤?。我的觀察是，考慮一下一年前的世界。僅僅一年前，人們根本沒有像現(xiàn)在這樣談?wù)撊斯ぶ悄堋?/p>
發(fā)生了什么？我們都經(jīng)歷了與計算機交談并被理解的感覺。計算機將變得真正聰明，最終比我們更聰明的想法正在變得普遍。以前，這只是一些狂熱者、愛好者和對人工智能非常感興趣的人們思考的一種邊緣想法。
但現(xiàn)在，每個人都在思考這個問題。隨著人工智能繼續(xù)取得進展，隨著技術(shù)的不斷進步，隨著更多人看到人工智能能做什么以及它將走向何方，那么人工智能將變得多么戲劇性、令人難以置信，幾乎是夢幻般的事物就會變得很明顯，適度的憂慮也是適當?shù)摹?/p>
我聲稱會發(fā)生的是，人們將開始出于自身利益采取前所未有的協(xié)作方式。這已經(jīng)在眼下發(fā)生。你看到領(lǐng)先的AGI公司開始合作。以一個具體的例子來說，通過Frontiers模型論壇，我們期望競爭對手公司將分享技術(shù)信息以確保其AI的安全性。我們甚至可能看到政府這樣做。
再舉一個例子，在OpenAI，我們真的相信AGI將會有多么戲劇性。因此，我們運作的一個理念，并且已經(jīng)在我們的網(wǎng)站上寫了五年，是當技術(shù)變得非常接近AGI，即計算機比人類更聰明，如果有其他公司遠遠超過我們，那么我們將與他們合作，從某種意義上加入他們。
為什么這么做？因為我們感到，我們欣賞AGI將會有多么戲劇性。我的觀點是，隨著每一代能力的提升，隨著AI變得更好，隨著你們所有人體驗到AI的能力，作為經(jīng)營AI和AGI項目以及從事這些項目的人，你們將親自體驗到，這將改變我們看待AI和AGI的方式。而這將改變集體行為。
這是我對這項技術(shù)帶來的巨大挑戰(zhàn)抱有希望的一個重要原因。
