神譯局是36氪旗下編譯團(tuán)隊(duì)，關(guān)注科技、商業(yè)、職場(chǎng)、生活等領(lǐng)域，重點(diǎn)介紹國(guó)外的新技術(shù)、新觀點(diǎn)、新風(fēng)向。

編者按：自古以來(lái)，大部分人類對(duì)新技術(shù)的態(tài)度一開始總是排斥的。我們害怕過電，害怕過火車和汽車。但是我們適應(yīng)新技術(shù)的速度也很快，只需1、2代人的時(shí)間就會(huì)把那種恐懼跑到九霄云外。那這一次會(huì)是一樣的嗎？比方說，我們應(yīng)該對(duì)人體冷凍感到害怕嗎？我們應(yīng)該對(duì)有人替我們做選擇感到高興嗎？納米機(jī)器人呢？設(shè)計(jì)嬰兒？上傳意識(shí)呢？或者終極的通用人工智能？Luca Rossi探討了未來(lái)的九種科技進(jìn)步的可能性，原文發(fā)表在Medium上，標(biāo)題是：9 Terrifying Technologies That Will Shape Your Future。篇幅關(guān)系，我們分兩部分刊出，此為第二部分。

劃重點(diǎn)

納米機(jī)器人能幫你大忙，但是也可能是個(gè)定時(shí)炸彈

設(shè)計(jì)嬰兒可以創(chuàng)造出一個(gè)高大、聰明、善良、體格健壯的小孩，但是未經(jīng)設(shè)計(jì)的命也是命

IR可以把現(xiàn)實(shí)注入到你的大腦來(lái)讓你沉浸在另一個(gè)現(xiàn)實(shí)之中，但是現(xiàn)實(shí)和虛幻之別是什么？

如果人們可以選擇將自己的意識(shí)上載到虛擬的來(lái)世，而不是死去，生命的意義在哪里？

通用人工智能（AGI）是我們需要?jiǎng)?chuàng)造的最后一項(xiàng)發(fā)明，人工超級(jí)智能（ASI）則要么會(huì)為我們建立起一個(gè)烏托邦，要么會(huì)把我們驅(qū)趕向滅絕。

5. 納米機(jī)器人（Nanites）

無(wú)所不在的納米機(jī)器人

Nanites是有朝一日會(huì)圍著我們到處轉(zhuǎn)的納米機(jī)器人。它們太小了，小到你看不見（除非成群結(jié)隊(duì)），但卻無(wú)處不在。它們會(huì)存在于空氣里，水中，附著在表面、食物、我們的身體、尿液以及糞便里面。

它們會(huì)具備群體智能（不是集中控制），并且能夠復(fù)制和適應(yīng)。

它們可用于清潔環(huán)境，3D打印任何東西，治愈大多數(shù)疾病，探索其他星球，控制天氣以及進(jìn)行許多其他的科幻活動(dòng)。

為什么這會(huì)嚇到我們

你能信任讓自己體內(nèi)放數(shù)百萬(wàn)個(gè)微型智能機(jī)器人嗎？我可不能。

原因永遠(yuǎn)都是一樣：怕黑客攻擊。誰(shuí)控制了納米機(jī)器人，誰(shuí)就能控制一切。雖說分布式系統(tǒng)比集中式系統(tǒng)彈性強(qiáng)些，但智能病毒足以摧毀幾乎所有的東西。只需對(duì)一個(gè)納米機(jī)器人進(jìn)行編程，即可將其代碼復(fù)制到其他的納米機(jī)器人身上，然后設(shè)定一小時(shí)后自毀。到時(shí)候你就眼睜睜地看著世界崩潰吧。

我們應(yīng)該被嚇到嗎？

大概吧。

黑客攻擊永遠(yuǎn)都是問題。但是，入侵銀行帳戶是一碼事，黑掉空氣、海洋、建筑物和人體則是另一回事。這一切只需要有一個(gè)聰明的，目的明確的、滿腔怒火的人來(lái)破壞世界。

另一方面，魔高一尺道高一丈，安全性也會(huì)跟黑客技術(shù)一起發(fā)展。像納米機(jī)器人那樣進(jìn)的技術(shù)是有望做到安全可靠的。這不足以保證納米機(jī)器人不會(huì)摧毀我們，但我認(rèn)為情況不至于會(huì)那樣。

我認(rèn)為，在擔(dān)心納米機(jī)器人會(huì)毀了我們之前我們還有很多其他的事情需要擔(dān)心。

6.設(shè)計(jì)嬰兒

誰(shuí)不想要一個(gè)完美的小孩？

設(shè)計(jì)嬰兒是指通過遺傳密碼操縱人為創(chuàng)造出來(lái)的嬰兒。

在理解遺傳密碼方面我們?nèi)〉昧朔浅３錾倪M(jìn)展。我們已經(jīng)能夠克隆動(dòng)物并做出真正的嵌合體。

設(shè)計(jì)嬰兒的目的是創(chuàng)造出基因強(qiáng)大的人類，這種嬰兒不會(huì)有疾病且具備你想要的一切特性。你可以創(chuàng)造出一個(gè)高大、聰明、善良、體格健壯的小孩，不必去依賴遺傳上中彩票一樣的隨機(jī)性。

為什么這會(huì)嚇到我們

當(dāng)我們想到人類基因改變和設(shè)計(jì)嬰兒時(shí)，我們會(huì)想到優(yōu)生學(xué)，然后想到希特勒，我們會(huì)被引爆。

害怕基因改變很正常。圍繞著基因的問題通?？蓺w結(jié)為想“扮演上 帝”，因?yàn)檫@意味著操縱生命本身的結(jié)構(gòu)。折騰我們的基因可能會(huì)創(chuàng)造出甚至不是人類的東西來(lái)。

如果我們認(rèn)為有設(shè)計(jì)出具有特殊功能的嬰兒的需要，就仿佛我們賦予了這些特性比人類生命本身還要高的重要性。

換句話說，這種做法似乎違背了道德法則，也就是“無(wú)論如何”都必須無(wú)條件地愛一個(gè)孩子。

而且這也違背了我們過去幾十年來(lái)為了克服種族差異所做的一切努力。

在遺傳差異方面我們一直都有麻煩。這些差異，比方說人種差異一樣，往往會(huì)反映在階層差異上。幾十年前，尤其是在美國(guó)，黑人和白人仍屬于兩個(gè)不同的社會(huì)階層?，F(xiàn)在，官方已經(jīng)不存在這種差異，但在人的思想里面仍然有強(qiáng)烈的存在（只要看看現(xiàn)在美國(guó)正在發(fā)生的事情就知道）。

設(shè)計(jì)嬰兒可能會(huì)帶來(lái)另一類問題，這類問題甚至比種族問題以及討論冷凍人的時(shí)候描述的那種問題還要嚴(yán)重得多。當(dāng)富人開始設(shè)計(jì)完美嬰兒而窮人卻負(fù)擔(dān)不起的時(shí)候，你覺得會(huì)發(fā)生什么呢？社會(huì)會(huì)發(fā)生騷亂以及#undesignedlivesmatter（編者注：模仿黑人的命也是命，未經(jīng)設(shè)計(jì)的命也是命）運(yùn)動(dòng)嗎？

我們應(yīng)該被嚇到嗎？

或許一點(diǎn)點(diǎn)。

但是，我們應(yīng)該感到害怕的唯一真正的原因是剛剛將到的那個(gè)，也就是我們存在出現(xiàn)新的社會(huì)鴻溝的風(fēng)險(xiǎn)。

同時(shí)，優(yōu)生說必須放在社會(huì)背景下予以討論。今天的優(yōu)生學(xué)之所以變成這么壞的一個(gè)詞，主要原因是希特勒干的那些事。

但是，殺死一個(gè)“不健康”的人跟組織那個(gè)人出生之間有很大的區(qū)別。

選擇誰(shuí)跟誰(shuí)結(jié)為伴侶，跟允許任何幸福的夫婦擁有自己的基因完美的孩子之間，還有一個(gè)巨大的區(qū)別。

只要那些“不一樣”的人沒有受到區(qū)別對(duì)待，并且允許大家跟自己喜歡的人結(jié)為伴侶，那設(shè)計(jì)嬰兒就不僅應(yīng)該是OK的，甚至還應(yīng)該受到鼓勵(lì)。

我為什么要說出爭(zhēng)議性這么大的話？

說真的，設(shè)計(jì)嬰兒的特性而不是讓隨機(jī)性替你選擇有什么問題嗎？如果你知道自己患有遺傳病，你還會(huì)讓你的小孩冒得這種病的風(fēng)險(xiǎn)嗎？我不知道你怎么看，但我認(rèn)為在這種情況下，不去設(shè)計(jì)自己的小孩是很殘忍的。

我真的很想把話說清楚。如果在受孕（或在胎兒獲得意識(shí)之前進(jìn)行，盡管我在這里不想主張墮胎權(quán)）之前進(jìn)行的話，優(yōu)生學(xué)并不是天生就不好的。如果你知道未來(lái)的孩子會(huì)得病，你難道不想讓他們避免度過痛苦的一生嗎？

如果這種治療你負(fù)擔(dān)不起，而你的孩子一出生就患有這種疾病，這并不意味著他們就不應(yīng)該得到世間所有的愛。他們不是“沒人要的”。你只是想給他們更好的生活。而且你依然“無(wú)條件地”愛他們。他們對(duì)你的價(jià)值不亞于遺傳上完美的孩子。

問題不在于基因改變本身，而在于社會(huì)。問題在于我們讓遺傳特征定義了我們，而它們應(yīng)該僅僅是特征。任何人都應(yīng)當(dāng)擁有一個(gè)健康快樂的孩子。為什么僅僅因?yàn)楹ε伦匀换蛴钪孀鰧?duì)就得冒遭受不必要的痛苦的風(fēng)險(xiǎn)？

7.沉浸式現(xiàn)實(shí)（IR）與腦機(jī)接口

IR+BCI=？

增強(qiáng)現(xiàn)實(shí)（AR）和虛擬現(xiàn)實(shí)（VR）你可能已經(jīng)熟悉了。但沉浸式現(xiàn)實(shí)（IR）和腦機(jī)接口（BCI）你可能還不太熟悉。

IR就是通過把現(xiàn)實(shí)注入到你的大腦來(lái)讓你沉浸在另一個(gè)現(xiàn)實(shí)之中。換句話說，IR是直接操縱了你的腦電波來(lái)創(chuàng)造體驗(yàn)。

這種操縱需要BCI作為接口。想象一下，你可以對(duì)自己的大腦進(jìn)行重新編程。由于大腦幾乎是你體驗(yàn)到的一切事物的源頭，因此對(duì)大腦進(jìn)行控制的能力是非常強(qiáng)大的。

通過BCI，你不僅可以沉浸在另一個(gè)現(xiàn)實(shí)之中，還可以抑制恐懼，改變自己的性格，在一秒鐘之內(nèi)閱讀1000本書，跟他人進(jìn)行心靈感應(yīng)交流，控制機(jī)器人（包括納米機(jī)器人），通過意念控制跟你大腦連接的物體，還可以獲得許多其他的科幻小說才有的超能力。

為什么這會(huì)嚇到我們

有兩個(gè)方面需要思考。

一個(gè)是對(duì)現(xiàn)實(shí)的感知。IR（尤其是用于視頻游戲里面的IR）會(huì)讓你失去跟實(shí)際現(xiàn)實(shí)的聯(lián)系。與實(shí)際現(xiàn)實(shí)相比，你在IR上面花費(fèi)的時(shí)間更多。你可能會(huì)再也意識(shí)不到前者了。

二是BCI可以讓你變成某種不是人的東西，或者至少會(huì)剝奪你的基本的人類體驗(yàn)。當(dāng)你獲得上述所有的超級(jí)能力時(shí)，你會(huì)變成什么樣的人？如果你可以像軟件一樣對(duì)自己的大腦進(jìn)行重新編程，你的生活會(huì)變成什么樣？當(dāng)你只需要通過心靈感應(yīng)進(jìn)行交流時(shí)，跟他人交談的基本體驗(yàn)就變得過時(shí)了，那時(shí)候又會(huì)發(fā)生什么？

還有，如果我們的大腦被黑了又該怎么辦？

我們應(yīng)該被嚇到嗎？

或許一點(diǎn)點(diǎn)。

自石器時(shí)代以來(lái)，跟現(xiàn)實(shí)失去聯(lián)系一直就是人類的習(xí)慣。七萬(wàn)多年前（甚至更早），我們發(fā)明了小說。從那時(shí)起，我們的小說創(chuàng)作能力就在不斷得到改善：口頭故事，書面故事，表演，電影，視頻游戲，虛擬現(xiàn)實(shí)。

那只是人性的一部分。只要你能夠賦予自己的生活以意義，那么你大部分時(shí)間花在哪個(gè)現(xiàn)實(shí)上（不斷是真實(shí)的還是虛擬的）又有什么關(guān)系呢？見鬼，甚至我們自己的現(xiàn)實(shí)可能也只是模擬的。但這并不意味著它就沒有意義。只要你有意識(shí)，你的生活就有意義，而這跟你生活在哪個(gè)現(xiàn)實(shí)無(wú)關(guān)。

但是，如果BCI所做的不只是讓你沉浸于另一個(gè)現(xiàn)實(shí)之中呢？如果它們改變了你的思維結(jié)構(gòu)該怎么辦？就像許多的其他東西一樣，這取決于事情如何演變。

我認(rèn)為BCI的超能力在本質(zhì)上不是一件壞事，就像咖啡給你提神的時(shí)候不是一件壞事，酒精在讓你有點(diǎn)頭暈的時(shí)候也不是一件壞事，而野草在你稍微放松一下的時(shí)候也不是一件壞事一樣。（抱歉了，保守主義者們）。

但是，如果你過度使用了會(huì)怎樣？如果這會(huì)上癮又該怎么辦？如果不那么像咖啡而更像可卡因該怎么辦？呃，再次地，這得看情況如何演變。社會(huì)將會(huì)在必要的時(shí)候提出監(jiān)管這些體驗(yàn)的規(guī)范，而心理學(xué)家和神經(jīng)病學(xué)家應(yīng)該在這些技術(shù)變得司空見慣之前更好地了解這些技術(shù)對(duì)我們思想的影響。

8.意識(shí)上傳

《上載新生》劇照

繼續(xù)上一條，不妨把它的思路延伸到極限。你不僅把自己沉浸到另一個(gè)現(xiàn)實(shí)之中，而且?guī)习欣?，搬過去那里。

我最近剛看完了新的Amazon系列劇《上載新生》（Upload）。我建議你也應(yīng)該看看，很棒。

在《上載新生》的世界里，人們可以選擇將自己的意識(shí)上載到虛擬的來(lái)世，而不是死去。

這最終可能真的會(huì)變成現(xiàn)實(shí)。你的身體可能會(huì)死，大腦可能會(huì)死，但是你大腦里面的信息可以導(dǎo)出并存儲(chǔ)到數(shù)字設(shè)備上。你的想法將會(huì)是硬盤，U盤或云端的一個(gè)文件。然后，你可以通過一種計(jì)算機(jī)程序繼續(xù)生活，這個(gè)程序會(huì)以類似于電刺激改變大腦結(jié)構(gòu)的方式來(lái)改變哪個(gè)文件的結(jié)構(gòu)。

為什么這會(huì)嚇到我們

聽起來(lái)就像是瘋了？我知道，是的。這就是為什么它會(huì)令人恐懼的原因所在。

我們真不知道被上傳后我們的意識(shí)會(huì)發(fā)生什么。最可怕的是，我們可能永遠(yuǎn)也無(wú)法知道。

是的，問題在于，認(rèn)為你可以生活在U盤里面的想法是瘋狂的，但是認(rèn)為意識(shí)必須依賴于生物基質(zhì)的想法也很瘋狂。神經(jīng)元是由蛋白質(zhì)還是由信息位組成的有關(guān)系嗎？為什么？

這甚至不像你的意識(shí)存儲(chǔ)在你特定的腦細(xì)胞里面那么簡(jiǎn)單。你的神經(jīng)元一直在變化，但是你的意識(shí)始終都存在（是的，總會(huì)有新的神經(jīng)元被創(chuàng)造出了，即使神經(jīng)元不會(huì)繁殖）。意識(shí)必須存在于信息之中，因此它也可以存在于U盤之中。理論上是的。

我們應(yīng)該被嚇到嗎？

大概吧。

想象一下，如果上傳之后意識(shí)沒有被保留會(huì)發(fā)生什么。如果每個(gè)人最終都被上載的話，我們基本上就滅絕了。留下來(lái)的就只剩一個(gè)不知道在跑什么的計(jì)算機(jī)程序，僅此而已。

我們可能永遠(yuǎn)都不會(huì)知道答案。你沒法去問某人是否有意識(shí)，答案顯然是肯定的，因?yàn)檫@依賴于你在人腦里面可以找到的同樣的記憶和現(xiàn)象。

我個(gè)人認(rèn)為意識(shí)會(huì)保留下來(lái)。更準(zhǔn)確地說，我認(rèn)為意識(shí)不是“存儲(chǔ)”進(jìn)大腦或U盤里面中的，而是在互動(dòng)的情況下出現(xiàn)的，無(wú)論那是突觸沖激還是CPU周期。但是我們沒法真正證明這一點(diǎn)。

這并不意味著我們就應(yīng)該忽略這個(gè)問題。意識(shí)上傳有可能最終會(huì)實(shí)現(xiàn)，因此最好讓神經(jīng)科學(xué)家，工程師和哲學(xué)家至少先設(shè)法找到一個(gè)答案。

9.通用人工智能

AGI是我們需要的最后一項(xiàng)發(fā)明嗎？

通用人工智能（AGI）是我們需要?jiǎng)?chuàng)造的最后一項(xiàng)發(fā)明。AGI是一種像人類一樣可以學(xué)習(xí)任何東西的AI，而不僅僅是像當(dāng)前AI那樣只能精通一項(xiàng)特定任務(wù)。

當(dāng)AGI被創(chuàng)造出來(lái)時(shí)，它會(huì)通過變得更加智能來(lái)不斷地改進(jìn)自己。到了某個(gè)時(shí)候，它會(huì)變成人工超級(jí)智能（ASI），智能到我們?cè)谒媲熬拖裣N蟻一樣。

到那時(shí)，可能會(huì)發(fā)生兩件事情。ASI要么會(huì)為我們建立起一個(gè)烏托邦，要么會(huì)把我們驅(qū)趕向滅絕。非此即彼，沒有中間路線。

為什么會(huì)嚇到我們

像《未來(lái)終結(jié)者》、《機(jī)械姬》、《2001：太空奧德賽》、《超驗(yàn)駭客》這樣的電影均展示了當(dāng)AI變得流氓之后假想中的世界會(huì)變成什么樣。

大家對(duì)此有很多的困惑。有些人認(rèn)為，AGI永遠(yuǎn)也不可能創(chuàng)造出來(lái)，因?yàn)殛P(guān)于人類思維的“某些東西”是沒辦法復(fù)制的。

有的人則認(rèn)為，AGI會(huì)獲得自我意識(shí)，并對(duì)成為人類的奴隸感到厭煩，所以會(huì)叛變。

到了一定時(shí)候AGI可能會(huì)被創(chuàng)建出來(lái)，因?yàn)槲覀儧]有理由相信人的思維，尤其是關(guān)于人類智能方面存在那個(gè)“東西”。另外，AGI也不會(huì)獲得自我意識(shí)，因?yàn)橹橇鸵庾R(shí)是兩回事。

但是，出于不同的原因，我們會(huì)被嚇到。

我們應(yīng)該被嚇到嗎？

是的。

人工智能的問題在于，很難說出它的目標(biāo)和邊界是什么。我們想法很亂，我們被弄糊涂了，我們不知道自己想要什么。

如果AGI的目標(biāo)跟我們的目標(biāo)不符的話，我們就會(huì)遇到智能體的“對(duì)齊問題”（Alignment Problem），并且可能會(huì)發(fā)生非常糟糕的事情。

不妨以回形針最大化器（paperclip maximizer）思想實(shí)驗(yàn)為例。像制造回形針這樣的簡(jiǎn)單任務(wù)就有可能會(huì)給我們帶來(lái)生存風(fēng)險(xiǎn)。為什么？

因?yàn)锳GI總是會(huì)去尋找實(shí)現(xiàn)其目標(biāo)最有效的方法。比方說，它會(huì)尋求把地球的所有原子（包括我們的身體在內(nèi)）都變成回形針。

如果我們明確要求不能殺死我們，它仍然會(huì)設(shè)法去找到漏洞，讓我們的生活痛苦不堪。為了避免這種情況，我們必須設(shè)定要避免的每一個(gè)條件。這可不是簡(jiǎn)單的事情。

這不是說AGI會(huì)主動(dòng)去嘗試干掉我們。但想讓它不傷害我們會(huì)變得極其困難。為了過上美好生活，我們需要很多的東西，我們得確保AGI不會(huì)錯(cuò)誤地破壞掉那些美好的東西。

在某些情況下，AGI甚至?xí)鲃?dòng)想殺死我們。由于我們是如此的不可預(yù)測(cè)，因此AGI可能會(huì)認(rèn)為我們會(huì)感到害怕，試圖阻止它實(shí)現(xiàn)我們自己交給它的目標(biāo)。

這可能是我們被迫要解決的問題當(dāng)中最困難的一個(gè)。也是最后一個(gè)。

如果你還想進(jìn)一步探索這一主題，建議你可以去看看Nick Bostrom寫的《超級(jí)智能》。此書用語(yǔ)非常的學(xué)術(shù)性，但是值得一讀。

從15歲開始，我就夢(mèng)想著要開發(fā)一個(gè)AGI?，F(xiàn)在，我的夢(mèng)想是確保當(dāng)AGI到來(lái)的時(shí)候不會(huì)殺死我們。

技術(shù)很美妙，但也可能很恐懼。這一點(diǎn)從未像現(xiàn)在那么的真切。我們擁有了一種此前無(wú)法想象的力量。

只有在用智慧的改進(jìn)為指導(dǎo)的情況下，技術(shù)改進(jìn)才會(huì)是好的改進(jìn)。如果我們沒法就如何使用類似神一樣的技術(shù)做出明智選擇的話，那我們注定是會(huì)失敗的。

本文來(lái)自翻譯, 如若轉(zhuǎn)載請(qǐng)注明出處。