“本文翻譯自Tim Urban發(fā)表的《The AI Revolution》，從原文發(fā)表至今已有8年，隨著人工智能近些年的發(fā)展，特別是2022年AI大模型及AIGC鑄就的長足進步，使得我們重新翻看這篇文章時，引人深思，特與大家分享。譜文時發(fā)現(xiàn)一個更有趣的事情，作者與Musk有很深的淵源，各種蛛絲馬跡顯示，Musk的OpenAI和Neuralink也正如文中所提的方式探索著。此篇為Part I，總篇幅3+1約5萬字，點個關注，后續(xù)馬上來”

以下內容翻譯自《The AI Revolution: The Road to Superintelligence》，譯者：左脈夢幻師，原文由作者Tim Urban于2015在其創(chuàng)建的waitbutwhy.com網(wǎng)站發(fā)表，版權歸原作者所有，侵刪。順便幫博主打個小廣告，如果您喜歡原著，可以去waitbutwhy網(wǎng)站購買PDF原版供收藏。

我們正處于變化的邊緣，這可以與地球上人類生命的起源相提并論。-- Vernor Vinge

如果你正站在這個位置，你會是什么感受？

看似你站在了一個非常瘋狂的時間點 -- 但是，你要清楚，實際上你是無法預知時間軸上右側是怎么樣的，所以，實際上你是這樣的：

你的感受或許和平時沒什么兩樣。

01 / 遙遠的未來正在來臨

想象一下當你乘坐時光機回到 1750 年，那個沒有電、通信靠吼、交通靠拉的世界。你從那個找一個家伙并把他帶回到 2015 年，然后帶他四處走走，觀察他對一切的反應。他無法理解他看到一切：閃亮的金屬倉在高速公路上飛馳；與遠在大洋彼岸的人交談；觀看1000英里外正在進行的體育比賽；聆聽50年的樂曲；并使用一個黑色魔法盒來捕捉現(xiàn)實生活中的圖像，或是記錄生活中的瞬間；生成一張上面有一個個超自然移動的藍點的地圖，顯示著他所在的位置；透過盒子看著某人的臉并與他們聊天，即使他們在這個國家的另一邊，以及其他這個世界中不可思議的魔法。而這一切，僅僅是在你向他展示互聯(lián)網(wǎng)、或者是國際空間站、大型粒子對撞機、核武器或廣義相對論之類的東西之前的前菜。

這段經歷對他來說，興奮、驚訝或震驚應該說是不足于表達的 -- 他有可能直接會被嚇得GG了。

但有趣的是，如果看到我們后如此之嫉妒，并決定以同樣的方式乘坐時光機回到相同的距離的年代：1500年，并帶一個人回到1750年，并向他展示一切。1500年的這位兄弟或許也會些許震驚，但是，他不會被嚇死。因為，雖然1500年和1750年非常不同，但它們與1750年到2015年的之相比，區(qū)別小得太多。1500年的人會學到一些令人費解的關于空間和物理的知識、他會對歐洲新帝國主義的狂熱留下深刻印象、他不得不對他的世界地圖構想進行一些重大修改。但看著1750年的日常生活 -- 交通、通訊等 -- 絕對不至于會讓他被嚇GG。

確實不會，為了讓這個1750年的家伙玩得開心，他必須回到更遠的地方 -- 或許追溯到公元前12,000年，在第一次農業(yè)革命產生第一批城市和文明之前的。如果帶來一個來自純粹的狩獵時代的人 -- 當時人類或多或少只是另一種動物形式的存在，當他看到1750年廣闊的人類帝國、高聳的教堂、海洋渡輪、居住于室內，以及他們堆積如山的收藏、知識積累和探索發(fā)現(xiàn) -- 那這家伙或許會被嚇GG。

然后，在他被嚇死后，他想做同樣的事情，怎么辦。如果他從從公元前24,000年帶一個兄弟回到12,000年，并向他展示一切，那個人會說，“好吧，就這？”。對于公元前12,000年的人來說，要達到同樣的效果，需要從100,000多年前帶一個人回來，并向他展示生火和語言交流。

為了讓某人被傳送到未來并把他嚇GG的震驚程度，他們必須滿足足夠多的時間跨度，這個跨度被稱之為“死亡進程數(shù)”或死亡進步單位 (DPU)。因此，在原始社會時代，一個DPU花費了100,000多年，但按照農業(yè)革命后的速度，它只用了大約 12,000年。工業(yè)革命之后，世界發(fā)展如此之快，以至于一個DPU僅需1750年的人向前走幾百年。

這種模式 -- 人類進步隨著時間的推移越來越快 -- 就是未來學家雷·庫茲韋爾（Ray Kurzweil）所說的人類歷史的加速回報法則（Law of Accelerating Returns）。發(fā)生這種情況是因為更先進的社會有能力以比欠發(fā)達的社會更快的進步 -- 因為它們更先進。19世紀的人類比15世紀的人類知道得更多，技術也更好，因此19世紀的人類比15世紀取得的進步要大得多也就不足為奇了 -- 15世紀的人類無法與19世紀的人類相提并論。

這也適用于較小的時間跨度。電影《回到未來》上映于1985年，“過去”發(fā)生在1955年。在電影中，當邁克爾·J·?？怂够氐?955年時，電視的新奇、蘇打水的價格、刺耳的電吉他、以及俚語的變化讓他措手不及。那是一個不同的世界，是的，但如果這部電影是在今天拍攝的，“過去”發(fā)生在1985年，那么這部電影或許可以更有趣，也有完全的不同。這個角色將出現(xiàn)在個人電腦、互聯(lián)網(wǎng)或手機出現(xiàn)之前的時代 -- 今天的Marty McFly，一個出生于90年代末的少年，回到1985年將比電影中的Marty McFly在1955年時更加格格不入。

這與我們剛才討論的原因相同 -- 加速回報定律。1985年至2015年的平均進步速度高于1955年至1985年的速度 -- 因為前者是一個更先進的世界 -- 最近30 年發(fā)生的變化比之前30年要多得多。

所以，世界的變遷速度正在越來越快，對吧？這是否也暗示著我們的未來，巨變也正在臨近，對吧？

Kurzweil認為，如果按照2000年的進步速度，整個20世紀一百年的進步如今只需20年就可以實現(xiàn) -- 換句話說，到2000年，平均進步速度是20世紀的五倍。他認為，另一個等同于20世紀的進步速度發(fā)生在2000年至2014年之間，而再一個進步僅需七年時間，約在2021年（巧嗎？剛過7年）。幾十年后，他相信，一年發(fā)生可以頂上好幾個20世紀的百年進步，甚至不到一個月就能發(fā)生一次?？偠灾捎诩铀倩貓蠖?，Kurzweil認為21世紀將取得20世紀1,000倍的進步。

如果Kurzweil和其他相同他觀點的人是正確的，那么到2030年，我們就會像 1750年的人到2015年一樣 -- 即下一個DPU可能只需要幾十年 -- 而2050年可能與今天的世界完全不同，以至于我們幾乎認不出它。

這不是科幻小說，許多比你我都聰明、知識更淵博的科學家們都堅信這一點 -- 這是從歷史回顧可以得出的邏輯上的合理預測。

那么，為什么當你聽“35年后世界可能會天翻地覆”之類的話時，你總是不置可否、甚至覺得好笑？對于這種對于未來古怪預測的質疑，有三個原因：

1) 我們都是以線性思考歷史的。當我們想象未來30年的進步時，我們會參考過去30年的進步，當我們思考21世紀的進步時，我們只是將20世紀的進步放到2000年。這與上面1750年的人犯了同樣的錯誤，他期望從1500年帶來的人并能夠給予足夠的震驚。當我們應該以指數(shù)方式思考時，我們習慣性的還是以線性思考。聰明人，他們可能會以當前的發(fā)展速度預測未來30年的進步，而不是對比過去30年為依據(jù)。為了更正確地思考未來，你需要以更快的發(fā)展速率想象事物時代的進步。

2）歷史的發(fā)展總是呈波浪型波動向前的。首先，是陡峭的指數(shù)型曲線，當你只截取很小一段，它依然是線性的。就好比圓周，如果你切得足夠細時，它看起來幾乎像一條直線。其次，指數(shù)增長也并不完全平穩(wěn)和均勻。Kurzweil解釋說，進步發(fā)生在“S曲線”中：

當新范式的出現(xiàn)推動人類進步時，S曲線呈現(xiàn)三個階段：

1、緩慢增長（指數(shù)級增長初期）

2、快速增長（指數(shù)級爆發(fā)階段，增長的中后期）

3、隨著特定范式的成熟而趨于平穩(wěn)

如果你只回顧的歷史，你目前所在的S曲線部分可能會掩蓋你對事物發(fā)展速度的看法。1995年到2007年這段時間見證了互聯(lián)網(wǎng)的爆炸式增長，微軟、谷歌和 Facebook進入公眾視野、社交網(wǎng)絡的誕生、以及智能手機的問世，但那已是第2階段：S曲線增長突飛猛進的那部分。但2008年至2015年就少了很多突破，至少在技術方面是的。今天思考未來的人可能會回顧過去幾年，來衡量當前的進步速度，但忽略了一個更大的全景。實際上，一個全新的、巨大的飛躍可能正在醞釀中。

3）經驗阻礙我們看待未來，讓我們成為固執(zhí)的老頭。我們基于個人經歷來構建世界觀，這種增長速度，即“世界變化的速度”，已經在我們的頭腦中根深蒂固。我們還受到想象力的限制，想象力會利用我們的經驗來預測未來 -- 但通常，我們的認知并不能幫我們準確預知未來。當我們聽到關于未來的預測與我們現(xiàn)有經驗相矛盾時，我們的直覺是該預測一定是幼稚的。如果我在這篇文章的后面告訴你，你可能會活到150歲，或250歲，或者根本不會死，你的直覺會是，“這太愚蠢了 -- 我從歷史中知道一件事，那就是每個人都會死?！?是的，過去沒有人沒有死。但在飛機發(fā)明之前也沒有人駕駛過飛機。

因此，當您閱讀這篇文章時，第一反應是“呵呵”，但實際上你可能真的是錯了。如果我們真正以邏輯合理推理的方式去推測未來，結論可能是未來幾十年發(fā)生的變化比我們的直覺要多得多。邏輯還表明，如果一個星球上最先進的物種繼續(xù)以越來越快的速度向前進化，那么在某個時候它們將實現(xiàn)巨大的飛躍，以至于完全改變它們所知的生活和感知，他們將成為“人類” -- 有點像不斷向前進化的智能，使得它讓人類產生巨變，以至于完全改變了所有生物的命運。如果你花一些時間洞察當今科技的發(fā)展，你就會發(fā)現(xiàn)或許我們對于生命的認知將要徹底改變。

02 / 超智能之路

什么是AI？

如果你像我一樣，曾認為人工智能是一個很愚蠢的科幻概念，但最近不斷有嚴肅的人提到它，你會感到很困惑。

很多人對AI一詞困惑的原因有三個：

1、AI總是和電影聯(lián)想到一起。星球大戰(zhàn)、終結者2001：太空漫游等等。電影是虛構的，那些電影角色也是虛構的，所以我們總是覺得人工智能缺乏真實感。

2.人工智能是個很寬泛的話題。從手機上的計算器到無人駕駛汽車，到未來可能改變世界的重大變革，人工智能可以用來描述很多東西，所以人們會有疑惑。

3.AI已滲透到我們的日常生活中，只是我們沒意識到。John McCarthy，在1956年最早使用了人工智能（Artificial Intelligence）這個詞。他總是抱怨“一旦一些東西使用了人工智能，人們就不再叫它人工智能了。”因為這樣，所以人工智能聽起來總讓人覺得是未來的神秘存在，而不是身邊的現(xiàn)實。同時，這種效應也讓人們覺得人工智能是一個從未實現(xiàn)的概念，Kurzweil提到經常有人說人工智能在80年代就被遺棄了，這種說法就好像“互聯(lián)網(wǎng)在21世紀初互聯(lián)網(wǎng)泡沫破滅時已死”一樣可笑。

所以我們先把事情捋順。首先，不要再想機器人了。機器人只是AI的容器，有些是人形的，有些則不是 -- 但AI本身就是機器人內部的計算機。人工智能是大腦，機器人是它的身體（如果它有身體的話）。例如，Siri背后的軟件和數(shù)據(jù)是 AI，我們聽到的女人的聲音是AI的化身，沒有實體的機器人。

其次，您可能聽說過“奇點（singularity）”或“技術奇點”一詞。該術語在數(shù)學中用于描述正常的規(guī)則不再適用的類似漸近線的情況。它在物理學中被用來描述一種現(xiàn)象，比如一個無限小、致密的黑洞，或者我們在大爆炸之前都被擠壓到的那個臨界點，同樣是通常的規(guī)則不再適用的情況。1993年，弗諾·文格 (Vernor Vinge) 寫了一篇著名的文章，他將這個詞用于未來我們的技術智能超過我們自己的那一刻 -- 對他來說，在那一刻之后，我們所有的生活將被永遠改變，正常規(guī)則將不再適用。Ray Kurzweil的定義則是當加速回報法則達到極端的速度，以至于技術進步以接近無限快速的速度發(fā)展時，以此之后我們將生活在一個全新的世界。我發(fā)現(xiàn)今天許多人工智能研究者已經停止使用這個術語了，所以我不會在這里復述太多（盡管我們始終關注這個想法）。

最后，由于AI是一個廣泛的概念，因此會有許多不同種類或者形式的AI，但我們基于AI的能力，把AI歸類為三大口徑：

1) 弱智能-狹義人工智能（ANI）：狹義人工智能是專注于某個特定領域的人工智能。有的人工智能可以在國際象棋中擊敗世界象棋冠軍，但這是它唯一能做的事情。要求它找出在硬盤上存儲數(shù)據(jù)的更好方法，它會茫然地看著你。

2) 強智能-通用人工智能 (AGI)：或稱之為人類級人工智能，通用人工智能指的是全面與人類一樣聰明的計算機 -- 可以執(zhí)行任何與人類相當?shù)娜蝿盏臋C器。構造AGI比構造ANI難得多，而且我們還沒有做到。Linda Gottfredson教授將智力描述為“一種非常普遍的心理能力，在事務中推理、計劃、解決問題、抽象思考、理解復雜思想、快速學習和從經驗中學習的能力?！?AGI將能夠像人類一樣輕松地完成所有這些事情。

3) 超智能-超級人工智能 (ASI)：牛津大學哲學家和領先的人工智能思想家Nick Bostrom將超級智能定義為“一種幾乎在所有領域都比最優(yōu)秀的人類更聰明的智能，包括科學創(chuàng)造力、一般智慧和社交技能?！背壢斯ぶ悄艿姆秶鷱谋热祟惵斆饕稽c點，比人類聰明數(shù)億萬倍的計算機，均屬于其范疇。ASI是AI話題如此火爆的原因，也是為什么“永生”和“滅絕”這兩個詞會多次出現(xiàn)在這些帖子中的原因。

如果想體驗近似AGI，歡迎訪問：aispacelab.cn

時至今日，我們已經征服了最低級別的人工智能ANI，而且它已無處不在， AI革命是從ANI，經過AGI，到達ASI的道路 -- 一條我們可以得到“永生”也可能“滅絕”的道路，無論哪種方式，它都會改變一切。

讓我們仔細看看該領域的主要思想家認為這條路是什么樣的，以及為什么這場革命可能發(fā)生的比您想象的更早：

01. 當前的世界：ANI

狹義人工智能是在特定事物上等于或超越人類聰明程度或者效率的機器智能。幾個例子：

1. 汽車上到處都是ANI系統(tǒng)，從計算防抱死制動系統(tǒng)的計算機到調整燃油噴射系統(tǒng)參數(shù)的計算機。包括現(xiàn)在正在測試的谷歌自動駕駛汽車也包含強大的ANI系統(tǒng)，使其能夠感知周圍世界并做出反應。
2. 你的手機就是一個小ANI工廠。當您使用地圖應用程序導航、接收來自 Pandora 的定制音樂推薦、查看明天的天氣、與 Siri 交談或進行許多其他日?；顒訒r，您就是在使用ANI。
3. 您的電子郵件垃圾郵件過濾器是一種經典類型的ANI -- 它開始加載關于如何判斷什么是垃圾郵件、什么不是垃圾郵件的智能，然后隨著您的特定偏好獲得經驗，它會學習并為您定制智能。Nest Thermostat會做同樣的事情，因為它會開始計算您的典型例行程序并采取相應的行動。
4. 當你在亞馬遜上搜索產品，然后你在另一個網(wǎng)站上看到它是“為你推薦”的產品，時，這會令你毛骨悚然，或者當Facebook以某種方式向你推薦添加好友時，那都是一個ANI系統(tǒng)網(wǎng)絡，它們共同工作，相互告知你是誰，你喜歡什么，然后使用這些信息來決定向你展示什么。亞馬遜的“買了這個的人也買了……”也是如此 -- 這是一個ANI系統(tǒng)，它從數(shù)百萬顧客的行為中收集信息，并綜合這些信息，巧妙地向你推銷，這樣你就會買更多的東西。
5. 谷歌翻譯是另一個經典的ANI系統(tǒng) -- 在一項狹窄的任務上表現(xiàn)出色。語音識別是另一種，有很多應用程序使這兩個ANI搭配使用，讓你用一種語言說一個句子，然后讓手機用另一種語言說出相同的句子。
6. 當你的飛機降落時，決定它應該去哪個登機口的不是人。就像不是人決定了你的票價一樣。
7. 世界上最好的西洋跳棋、國際象棋、拼字游戲、西洋雙陸棋和奧賽羅棋手現(xiàn)在都是ANI系統(tǒng)。
8. 谷歌搜索是一個巨大的ANI大腦，具有極其復雜的算法來對頁面進行排序，并確定要特別向您展示的內容。Facebook的Newsfeed也是。
9. 上面那些只是在消費者世界。復雜的ANI系統(tǒng)已廣泛應用于軍事、制造和金融等部門和行業(yè)（算法高頻 AI 交易員占美國市場交易股票的一半以上)，以及幫助醫(yī)生進行診斷的專家系統(tǒng)，最著名的是IBM的Watson，儲存了大量知識，還能理解主持人的提問，在競猜節(jié)目中能戰(zhàn)勝最厲害的參賽者。

現(xiàn)在的ANI系統(tǒng)并不是特別嚇人。最壞的情況，一個故障或編程錯誤的ANI只可能會導致相對孤立的災難，例如摧毀電網(wǎng)、導致有害的核電站故障或引發(fā)金融市場災難（如2010閃崩事件，ANI程序一些出乎意料的反應和錯誤導致金融市場崩盤，股市短暫暴跌，市值蒸發(fā)了1萬億美元，其中只有一部分在錯誤糾正后恢復）。

但是，雖然ANI不會造成生存威脅，但是我們應該警惕這個相對無害的ANI，在日積月累后組成的，日益龐大和復雜的生態(tài)系統(tǒng)?，F(xiàn)在的每一項ANI的創(chuàng)新都在 為AGI和ASI的的發(fā)展添磚加瓦。正如Aaron Saenz所見，我們世界的ANI系統(tǒng)“早期原始地球軟泥中的氨基酸” -- 在某個意想不到的日子蘇醒過來的無生命物質。

02. 從弱人工智能（ANI）到強人工智能（AGI）

為何如此困難？

復刻一個與人類一樣聰明的計算機，是多么令人難以置信以及讓人拍案叫絕的挑戰(zhàn)。這是建造摩天大樓、將人類送入太空或者弄清楚大爆炸細節(jié)，所有這些事無法比擬的，他們都比理解我們的大腦是如何運作的，并制造一個一樣酷的東西要容易得多。時至今日，人腦依然是宇宙中已知的最復雜的東西。

有趣的是，嘗試構建AGI（與人類一樣聰明的計算機，而不是只在一個狹隘專業(yè)領域的人工智能）的困難，并非是你想的那樣。

一臺可以計算十位數(shù)乘法的計算機 -- 非常簡單。一個可以可以分辨它是狗貓的機器 -- 非常困難?？梢栽趪H象棋中擊敗人類的人工智能？早就做到了。可以閱讀六歲兒童繪本中的一段話，并能理解其含義？谷歌正花費數(shù)十億美元嘗試做到這一點。

我們認為困難的事情 -- 比如微積分、金融市場策略和語言翻譯 -- 這對計算機來說極其的簡單，而我們認為的一些簡單的事情 -- 比如視覺、動態(tài)、運動和直覺 -- 對它來說卻極其其困難。或者，正如計算機科學家唐納德·高德納 (Donald Knuth) 所說，“人工智能現(xiàn)在基本已經能做好所有需要'思考’的事情，但卻做不了大多數(shù)人和動物都'無需思考’就能做的事情。”

你應該很快就能意識到，那些對我們來說似乎很簡單的事情，實際上極其復雜，它們之所以看起來簡單，是因為這些技能已經在我們（和大多數(shù)動物）身上經過數(shù)億年的進化和優(yōu)化了。當你把手伸向一個物體時，你肩膀、肘部和手腕的肌肉、肌腱和骨骼會立即與你的眼睛一起構成一個三維系統(tǒng)，執(zhí)行一系列物理動作，讓你的手向目標物體直線移動。這對你來說輕而易舉，因為你的大腦中軟件已經“非常完美”了。同樣，也就是為什么當你網(wǎng)站上注冊新賬戶時，惡意軟件搞不定驗證碼，而你卻能夠輕而易舉完成。

另一方面，大數(shù)相乘或者下象棋，這些都是生物的新活動，我們還沒有足夠的時間來進化以熟練掌握，所以計算機可以輕而易舉的打敗我們。試想一下，哪個更容易做到，構建一個計算大數(shù)相乘的程序，或者一個可以識別成千上萬種不同字體或手寫體字母的程序？

一個有趣的例子 -- 當看這個時，你和計算機都可以很快地看出它是一個具有兩種不同陰影的矩形交替出現(xiàn)的圖形：

但如果用這個團案的話：

你可以很快地描述出圖形的圓柱形、3D、矩形、不同陰影灰度等，但計算器就完全無法描述出來。計算機能夠描述各種深度不同的二維平面形狀，但是人腦卻能把所有的形狀、陰影、細節(jié)、組合全部解讀出來。再比如下面的圖片，電腦看到的是黑、白、灰，而你能很快分辨出來這是一個石頭。

而且，我們到現(xiàn)在談的還是一些靜態(tài)不變的信息。要想達到人類級別的智能，計算機必須要理解更高深的東西，比如臉部微表情，開心、放松、滿足、滿意、高興這些類似情緒之間的區(qū)別，以及為什么《勇敢的心》是好電影，而《愛國者》是爛電影。

很難是吧？如何才能達到呢？

構建AGI的第一關鍵：足夠的算力

要使 AGI 成為可能，第一件事是計算能力的增強。如果人工智能系統(tǒng)要像大腦一樣聰明，它至少需要與大腦的相同的計算能力。

表達這種能力的一種方法是大腦每秒可以處理的總計算量 (calculations per second, cps)，你可以通過計算出大腦中每個結構的最大cps然后將它們加在一起來得出這個數(shù)字。

Ray Kurzweil想出了一個捷徑：稱重，他采用某人對一個結構的cps的專業(yè)估計，并將該結構的重量與整個大腦的重量進行計算，按比例相乘以獲得總cps的估計。聽起來不靠譜，但他用大腦不同局部的值進行多次估計，總和都類似：大約10的16次方，或1億億cps。

目前，世界上最快的超級計算機，中國的天河二號，實際上已經超過了這個數(shù)字，達到約3.4億億cps。但天河二號和一個人的大腦比起來也只是個小弟，占地720平方米，用電24兆瓦（大腦運行僅需20瓦），造價3.9億美元。甚至較為通用的商業(yè)或工業(yè)用途場景都還不適用。

Kurzweil認為考慮電腦的發(fā)展程度的標桿是看1000美元能買到多少cps，當1000美元能買到人腦級別的1億億運算能力的時候，強人工智能可能就是生活的一部分了。

摩爾定律認為全世界的電腦運算能力每兩年就翻一倍，這一定律有歷史數(shù)據(jù)所支持，這同樣表明電腦硬件的發(fā)展和人類發(fā)展一樣是指數(shù)級別的。我們用這個定律來衡量1000美元什么時候能買到1億億cps。現(xiàn)在1000美元能買到10萬億cps，和摩爾定律的歷史預測相符合。

$1000能買到的cps，及約等于大腦容量對比

因此，目前1,000美元的計算機現(xiàn)在已能擊敗老鼠的大腦，它們的水平約為人類的千分之一。這聽起來并不多，但是，在1985年其大約是人類水平的萬億分之一，1995年是人類水平的十億分之一，2005年是人類水平的百萬分之一。2015 年是千分之一，到2025年，與一個人類大腦相媲美的計算機將是人人都負擔的起了（還有2年，拭目以待）。

因此，在硬件方面，AGI所需的算力現(xiàn)在在中國技術上已是可用了的，且10年內將普及AGI級的硬件。但是，僅靠算力并不能使計算機具備通用智能 -- 下一個問題是，我們如何將人類水平的智能賦予此？

構建AGI的第二關鍵：讓其足夠聰明

這很棘手。事實是，沒人知道如何讓計算機變得像人一樣聰明，能夠知道什么是狗、寫得怪異的B和分辨爛片。但是有很多嘗試在某個時候或許會奏效。以下是我遇到的三種最常見的策略：

1）剽竊大腦

這就像科學家們苦思冥想，為什么坐在他們旁邊的那個孩子很聰明，考試總是那么好，即使他們一直在努力學習，也做不到那個孩子那么好，然后，他們最終決定“去他媽的，我只是要復制那個孩子的答案?！?這是有道理的 -- 我們在嘗試建造一臺超級復雜的計算機時遇到了困難，而我們每個人的腦海中恰好都有一個完美的原型。

科學界正在努力對大腦進行逆向工程，以弄清楚進化是如何產生如此出色的東西的 -- 樂觀估計我們可以在2030年之前做到這一點。一旦我們做到了這一點，我們就會知道大腦如何強大而高效運行的所有秘密，我們可以從中汲取靈感并竊取其創(chuàng)新。模仿大腦的計算機體系結構的一個例子是人工神經網(wǎng)絡。它最初是一個晶體管“神經元”網(wǎng)絡，通過輸入和輸出相互連接，它什么都不知道 -- 就像嬰兒的大腦一樣。它“學習”的方式是嘗試完成一項任務，比如手寫識別，起初，它的神經元放電和隨后對每個字母的猜測將是完全隨機的。但是，當它被告知它做對了某事時，恰好產生該答案的發(fā)射路徑中的晶體管連接得到加強；當它被告知錯誤時，這些通路的聯(lián)系就會被削弱。經過大量的試驗和反饋，網(wǎng)絡本身已經形成了智能神經通路，并且機器已經針對任務進行了優(yōu)化。大腦有點像這樣學習，但以更復雜的方式學習，隨著我們繼續(xù)研究大腦，我們正在發(fā)現(xiàn)巧妙的新方法來利用神經回路。

更極端的剽竊涉及一種稱為“全腦仿真”的策略，其目標是將真實的大腦切成薄層，掃描每一層，使用軟件組裝一個精確的重建3D模型，然后在功能強大的計算機上實現(xiàn)該電腦模型。屆時我們將擁有一臺正式具備大腦所有能力的計算機 -- 它只需要學習和收集信息。如果工程師做得非常好，他們將能夠以如此精確的精度模擬真實的大腦，一旦將大腦結構上傳到計算機，大腦的完整個性和記憶就會完好無損。如果計算機大腦是在Jim去世前建立的，那么計算機現(xiàn)在將以Jim的身份醒來，這將是一個強大的人類級AGI，然后我們可以努力將Jim變成一個難以想象的超智能ASI。

我們離實現(xiàn)全腦仿真還有多遠呢？到目前為止，我們還未能模擬一個1毫米長的扁蟲大腦，它總共只有302個神經元，而人腦包含1000億個。如果這個數(shù)字使項目看起來無望，請記住指數(shù)級的進步 -- 既然我們已經征服了微小的蠕蟲大腦，不久之后可能會出現(xiàn)一只螞蟻，然后是一只老鼠，突然間這似乎更合理了（漂亮國已經取得進步了）。

2）模擬進化

模仿聰明孩子考試太難，那我們可以嘗試復制他為學習方式。

這正是我們所知的，我們自己大腦的進化就是證明，因此建造一臺像大腦一樣強大的計算機也是可能的。如果大腦過于復雜無法模仿，那我們可以嘗試模仿進化。就像我們試圖通過模仿鳥的拍打動作來制造飛機一樣 -- 最好是使用全新的、面向機器的方法來設計機器，而不照搬生物學。

所以我們如何通過模擬進化的來造強人工智能呢？這種方法叫做“基因算法”，它大概是：建立一個反復運作的表現(xiàn)/評價過程，就好像生物通過生存這種方式來表現(xiàn)，并且以能否生養(yǎng)后代為評價一樣。一組電腦將執(zhí)行各種任務，最成功的將會“繁殖”，把各自的程序融合，產生新的計算機（算法），而不成功的將會被剔除。經過多次的反復后。這個自然選擇的過程將產生越來越強大的計算機（算法）。而這個方法的難點是建立一個自動化的評價和繁殖過程，使得整個流程能夠自己運行。

這個方法的缺點是，進化往往需要十億年才能完成，而我們希望在幾十年內完成。

但是比起自然演化來說，我們有很多優(yōu)勢。

首先，自然演化是沒有預知能力的，它是隨機的 -- 它產生的沒用的變異比有用的變異多很多，但是人工模擬的演化可以控制過程，使其著重于有益的變化。其次，自然演化是沒有目標的，自然演化出的智能也不是它目標，特定環(huán)境甚至對于更高的智能是不利的（因為高等智能消耗很多能源）。但是我們可以控制演化的過程向更高智能的方向發(fā)展。再次，要產生智能，自然演化要先產生其它的附件，比如改良細胞產生能量的方法，但是我們完全可以用電力來代替這額外的負擔。所以，人類主導的演化會比自然快很多很多，但是我們依然不清楚這些優(yōu)勢是否能使模擬演化成為可行的策略。

2）轉化為計算機問題

這是科學家們感到絕望并試圖對測試進行編程和自我測試的嘗試。但它可能是最有前途的方法。

想法是，我們要建造一臺自編碼的計算機，它的兩項主要技能是對人工智能進行研究和對自身的變化進行不停的編碼 -- 讓它不僅可以學習，還可以改進自己的架構。我們會教計算機成為計算機科學家，這樣他們就可以引導自己的發(fā)展。這將是他們的主要工作 -- 弄清楚如何讓自己變得更聰明。稍后會詳細介紹。（像不像OpenAI？）

所有這一切很快可能發(fā)生

硬件的快速進步和軟件的創(chuàng)新探索在同時發(fā)生，AGI可能會迅速而意外地出現(xiàn)在我們身上，主要原因有兩個：

1) 指數(shù)增長非常劇烈，蝸牛般的前進速度可以快速上升 -- 這張GIF很好地說明了這個概念：

2）當涉及到軟件時，進步似乎很緩慢，但是頓悟可以立即改變進步的速度（有點像科學，在人類認為宇宙以地心為中心的時候，很難計算出宇宙是如何運行的 , 但隨后發(fā)現(xiàn)它是日心時，突然一切變得容易得多了）?；蛘撸斏婕暗街T如自我改進的計算機之類的東西時，我們可能看起來很遙遠，但實際上只需對系統(tǒng)進行一次調整，就可以使它的效率提高1,000倍，并提升到人類智能水平。

03. 從強人工智能（AGI）到超人工智能（ASI）

總有一天，我們將實現(xiàn)AGI -- 具有人類一般智能的計算機，和人類平等地生活在一起。

完全不會！實際上，具備算力以及與人類相同智能水平的AGI會顯著比人類有優(yōu)勢。比如：

在硬件上：

-速度。腦神經元的運算速度最多是200Hz，今天的微處理器就能以2GHz，也就是神經元1000萬倍的速度運行，而這比我們達成強人工智能需要的硬件還差遠了。大腦的內部信息傳播速度是120m/s，計算機的信息傳播速度是光速，差了好幾個數(shù)量級。

-容量和儲存空間。人腦先天就那么大，后天無法把它變得更大，就算真的可以，每秒120m/s的傳播速度也會成為巨大的瓶頸。計算機的物理大小可以非常隨意，使得計算機能運用更多的硬件，更大的內存，長期有效的存儲介質，不但容量大而且比人腦更準確。

-可靠性和持久性。計算機的存儲不但更加準確，而且晶體管比神經元更加精確，也更不容易損壞（真的壞了也很好修）。人腦還很容易疲勞，但是計算機可以7x24小時不停地以峰值速度運作。

在軟件上：

-可編輯性，可升級性，以及更廣泛的可能性。和人腦不同，計算機軟件可以進行更多的升級和修正，并且很容易做測試。計算機的升級可以加強人腦比較弱勢的領域 -- 人腦的視覺單元很發(fā)達，但是復雜工程能力就挺弱的。而計算機則不但能在視覺元件上匹敵人類，在處理復雜工程上也一樣可以加強和優(yōu)化。

-集體能力。人類建立了龐大的集體智慧，以壓倒性統(tǒng)治其他物種。從早期的語言和大型社區(qū)的形成，到文字和印刷的發(fā)明，再到互聯(lián)網(wǎng)的普及。人類的集體智慧是我們統(tǒng)治其它物種的重要原因之一。而計算機在這方面比我們要強的很多，一個運行特定程序的人工智能網(wǎng)絡能夠經常在全球范圍內自我同步，這樣一臺計算機學到的東西會立刻被其它所有計算機學得。而且計算機集群可以共同執(zhí)行同一個任務，分歧、自私自利等這些人類特有的東西未必會出現(xiàn)在計算機身上。

人工智能很可能通過可自我改進的程序達到通用人工智能，且它不會將“人類智能”視為重要的里程碑 -- 從我們的角度來看，它只是一個相對標志 -- 而且沒有任何理由到達我們的水平后就“停止”?？紤]到即使是與人類智力相當?shù)腁GI也比人類更具有優(yōu)勢，很明顯，它只會在短暫的一瞬間打擊人類智力，然后進入超越人類智力的領域。

當它發(fā)生時，可能會讓我們大吃一驚。原因是，從我們的角度來看，A) 雖然不同種類動物的智力各不相同，但從物種主宰的我們來看，任何動物的智力都遠低于我們，并且B)我們認為最聰明的人和最愚蠢的人相去甚遠。有點像這樣：

因此，隨著人工智能向人類水平靠近，我們會認為它只是變得相對動物來說更聰明了。然后，當它觸及人類的最低能力時，我們會說，“哇哦，它就像一個笨笨的人。 好可愛！” 但問題是，從智能的大局來看，人和人的智能的差別，比如從最愚笨的人類到愛因斯坦的差距，其實是不大的。所以當人工智能達到了腦殘級別的智能后，它會很快變得比愛因斯坦更加聰明：

之后會怎樣？

我希望你享受現(xiàn)在的閱讀時光，因為接下來這個話題將變得不正常和可怕，而且會保持這種狀態(tài)。我想在這里停下來提醒您，我要說的每一件事都是真實的 -- 真實的科學和來自眾多最受尊敬的思想家和科學家對未來的真實預測。切記！

正如我上面所說，我們目前大多數(shù)實現(xiàn)AGI的模型，都涉及AI自我改進。一旦到達AGI，即便不是通過自我改進的方法形成的，也足夠聰明到可以根據(jù)需要開始自我改進。

這正是我們要引出一個重磅概念的地方：遞歸式自我改進。

它是這樣工作的：某個級別的人工智能系統(tǒng) -- 比方說村里的大傻 -- 是一個為實現(xiàn)可自我改進而編織的程序。一旦它做到了，它就變得更聰明了 -- 也許在某個時間點它達到了愛因斯坦的水平 -- 所以當它努力提高智力，有了愛因斯坦的水平時，它就更容易實現(xiàn)更大的提升。這些提升使其它將比任何人類都聰明得多，從而使其能夠實現(xiàn)更大的飛躍。就如同飛輪效應一般，提升越來越大，且越來越快，AGI在智能上飆升很快就達到了ASI系統(tǒng)的超級智能水平。這就稱為智能大爆炸！

關于人工智能還需多長時間達到人類水平的通用智能，還存在著一些爭論。一項對數(shù)百名科學家的調查顯示，我們可能能夠達到AGI的年份的中位數(shù)是2040年，也就是距離現(xiàn)在只有25年了（又1/3過去了，進步我們看到了），這聽起來沒什么，但是要記住，很多這個領域的思想家認為從AGI強人工智能到ASI超人工智能的會快得多。就像下面這很可能會發(fā)生：

第一個人工智能系統(tǒng)需要幾十年才能達到低級通用智能，但它終于發(fā)生了。一臺計算機能夠理解它周圍的世界，就像一個四歲的人類一樣。突然間，在達到那個里程碑的一個小時內，系統(tǒng)推出了統(tǒng)一廣義相對論和量子力學的宏大物理學理論，這是人類無法確定的事情。90分鐘后，AI變成了ASI，比人類聰明170,000倍。

如此強的超級智能是我們所無法理解的，就像一只黃蜂無法理解凱恩斯經濟學一樣。在我們的世界里，聰明意味著130智商，愚蠢意味著85智商 -- 我們沒有一個詞能來形容12,952的智商。

我們所知道的是，人類在地球上的絕對統(tǒng)治背后有一個顯而易見的規(guī)則：智慧帶來力量。這意味著當我們創(chuàng)造出ASI時，它將成為地球生命史上最強大的存在，包括人類在內的所有生物都將屈居其下 -- 這可能會在未來幾十年內便發(fā)生。

如果我們的大腦能夠發(fā)明WiFi，那么，比我們聰明100倍、1000倍甚至是10億倍的東西，應該可以輕易的隨意掌控世界上每個原子的位置，我們想象的一切魔法、如同至高無上的上帝般擁有的每一種力量，對ASI來說或許就像開關燈一般簡單。創(chuàng)造永葆青春之術、治愈疾病、解決饑荒、操縱天氣以保護地球上生命的未來、甚至是讓人類獲得永生，這一切突然都成為可能。也有可能是地球上所有生命的立即終結。就我們而言，如果ASI出現(xiàn)，地球上就會有一個全能的上帝 -- 對我們來說最重要的問題是：

文中提及的參考文獻：

• Kurzweil, The Singularity is Near
• Nick Bostrom，Superintelligence：Paths，Dangers，Strategies
• Vardi, Artificial Intelligence: Past and Future
• Bostrom, Superintelligence: Paths, Dangers, Strategies
• Nilsson, The Quest for Artificial Intelligence: A History of Ideas and Achievements
• Pinker, How the Mind Works

求關注，后續(xù)馬上來，END

登錄dreamcast.aispacelab.cn，開啟AI奇幻旅程！