“現(xiàn)在每當(dāng)我望著銀河的時(shí)候，總是不由自主地猜測(cè)著，幫助地球發(fā)展文明的使者將從層層星云中哪一顆星飛來。倘若你能原諒我做出這么一個(gè)平淡無奇的比喻，那么咱們已經(jīng)拉響了火警，現(xiàn)在無事可干，只有等待?！?/p>

阿瑟·克拉克在1948年小說《崗哨》的結(jié)尾，把高度發(fā)展的人工智能比作了某種不知從何而來的外太空智慧，并且申明了他的立場(chǎng)“我認(rèn)為咱們不必等待?！边@是因?yàn)?，他預(yù)見到了人工智能突破發(fā)展技術(shù)瓶頸的速度。

而面對(duì)AI以及可能超越人類自身的科技，普羅大眾對(duì)其在科幻影視作品中的藝術(shù)化探索也頗值得玩味。從《星球大戰(zhàn)》中忠心耿耿的3PO、到《星際穿越》中誠實(shí)度/真實(shí)度為95%的TRAS，機(jī)器人被定義成為人類服務(wù)者，甚至像《終結(jié)者》那樣，人類最終被鋼鐵軀體所取代，向機(jī)器人打響一場(chǎng)生存之戰(zhàn)。

面對(duì)擁有了決斷力與判斷力的機(jī)器，人們看待他們猶如看待突然長大的孩子，帶著信心與懷疑打量著其擁有的能力，心情與剛完成雕像的皮格馬利翁別無二致，“他們是有意識(shí)，但現(xiàn)在他們卻學(xué)會(huì)說謊了，真是栩栩如生?！?/p>

即使人類有意賦予機(jī)器人感情，但心理上仍然將其視為異類。面對(duì)另一股非人類力量的崛起，人類或盼據(jù)為己用，奴役其來造福自己；或屈于人工智能之強(qiáng)勢(shì)，戰(zhàn)戰(zhàn)兢兢，心懷恐懼，甚至須與后者一決雌雄。

《人工智能》中機(jī)器人小孩大衛(wèi)連“愛媽媽”的設(shè)定都與人類小孩無異，卻在人類“兄弟”馬丁的促狹中敗下陣來，被“媽媽”拋棄，遭到機(jī)器屠宰場(chǎng)的殘酷追殺?！逗阽R》中失去丈夫的女主角，即使看到機(jī)器人與已逝丈夫的音容笑貌相差無幾，仍忍不住去質(zhì)疑、打擊、甚至圈養(yǎng)他……

面對(duì)手無寸鐵、無縛雞之力的“接待員”，無論他們看起來多么像人，那些所謂來自上流社會(huì)的人士燒殺淫掠，大開殺戒，這些機(jī)器人們每天卻像物品一樣被堆積起來，清洗重置。在游戲的“西部世界”中，人類放縱自己的惡念，對(duì)機(jī)器人的屠戮不亞于當(dāng)年西進(jìn)運(yùn)動(dòng)時(shí)土著居民的毀滅性打擊。

人類一方面從機(jī)器人“無條件”的服從與愛中獲得慰藉與滿足，一方面卻對(duì)這種毫不反抗、且無自我意識(shí)的AI嗤之以鼻。但是對(duì)有主體意識(shí)、可判斷決策的機(jī)器，人類的本能反應(yīng)又充滿恐懼。

早在1950年，伊薩克·阿西莫夫在《機(jī)械公敵》將這種憂慮訴諸筆端，并設(shè)定了大名鼎鼎的“機(jī)器人三原則”，來對(duì)人工智能進(jìn)行警惕和預(yù)防，但人類與高級(jí)人工智能爭斗的故事屢屢見諸科幻作品。

幾乎在一念之間，看似被動(dòng)弱勢(shì)的AI就反敗為勝，利用人類的弱點(diǎn)殺出一條出路。《機(jī)械姬》中美艷卻被限制自由的機(jī)器人，在呆萌程序員泛濫的同情心和一絲愛戀面前，高仿真度的機(jī)器人利用人類的情感這一點(diǎn)來達(dá)到目的，幾乎立時(shí)完成了力量的對(duì)比反轉(zhuǎn)，實(shí)現(xiàn)了化身“人類”的自由。

在高度發(fā)達(dá)的AI面前，人類根本不是敵手?！逗诳偷蹏纷詈?，浩浩蕩蕩的電子烏賊，淪陷的現(xiàn)實(shí)社會(huì)，沉浸入虛擬世界的人們，在掌控一切的計(jì)算機(jī)王者“矩陣大帝”面前進(jìn)行人機(jī)談判，以“病毒”史密斯和人類救世主Neo的同歸于盡而告終。

人類與機(jī)器對(duì)立的殘酷性也在《終結(jié)者》中充分體現(xiàn)。機(jī)器覺醒時(shí)代，施瓦辛格那孔武有力的鋼鐵之軀，越發(fā)襯托出僅存的反抗軍的孱弱力量。當(dāng)擁有強(qiáng)大能力的機(jī)器自我意識(shí)被喚醒，人類的脆弱暴露無疑。

人類對(duì)未來交通工具的想象和態(tài)度在科幻作品中也有所體現(xiàn)。無論是《海底兩萬里》中的潛艇，《三體》的宇宙飛船，《第五元素》中的飛行汽車，《回到未來》中供時(shí)空旅行的汽車，或者宮崎駿筆下的龍貓電車，這些想象中的未來交通工具一直是科幻、動(dòng)畫作品里的?？?。

但是回到現(xiàn)實(shí)，反映到目前大熱的智能駕駛汽車上，人類的態(tài)度卻曖昧不明。人們真的會(huì)將自己的身家性命托付給無人駕駛車輛嗎？遠(yuǎn)的不說，光是《速度與激情8》中，上千輛汽車在黑客的遠(yuǎn)程操控下在街頭狂奔，如同喪尸一般。汽車不受駕駛員自己控制，只聽命于黑客發(fā)來的一條條指令，這樣的事情無疑讓人感到恐怖。

還有，機(jī)器有選擇的權(quán)利嗎？人類會(huì)放任機(jī)器去做決定嗎？《第五元素》中那些騰空而起的汽車雖然早已突破技術(shù)限制，自由而靈活地穿梭空中，但現(xiàn)實(shí)中在街道、測(cè)試場(chǎng)地中奔跑的谷歌們卻不得不面對(duì)更加復(fù)雜的倫理問題，或者說是法律問題。

截至目前，谷歌的無人駕駛測(cè)試車已經(jīng)發(fā)生了不下4起車禍?zhǔn)鹿?，或因?qū)Ψ杰囕v闖紅燈、為躲避障礙物等撞上其他障礙物，還因此而收到了相關(guān)罰單。未來智能駕駛、自動(dòng)駕駛夢(mèng)想都變?yōu)楝F(xiàn)實(shí)時(shí)，立法與倫理還將面臨新一輪挑戰(zhàn)。

針對(duì)阿西莫夫“機(jī)器人不得傷害人類”這一準(zhǔn)則，阿西莫夫本人后來增加了更有優(yōu)先性的“第零法則”——機(jī)器人必須保護(hù)人類的整體利益不受傷害。但是這個(gè)類似于杰里米·邊沁功利主義的原則，在自動(dòng)駕駛車輛真的來臨時(shí)究竟能起到多大作用？機(jī)器能否會(huì)因?yàn)閾?dān)心撞到數(shù)十個(gè)行人，而犧牲少數(shù)？

這與哲學(xué)家Philippa Foot提出的“電車”問題如出一轍，不過“電車問題”中的人變成了機(jī)器，涉及到自動(dòng)駕駛，“決斷者”則變成了車輛。在現(xiàn)行情況下人類會(huì)做邏輯判斷，因而也不需要考慮倫理問題，無論出什么事情，都有人來負(fù)責(zé)。但是換成了自動(dòng)駕駛車輛，究竟是要置多數(shù)人的利益，還是少數(shù)人的利益為首呢？

人們是否愿意開發(fā)能避免絕大多數(shù)事故，但又有可能犯下人類不會(huì)犯的致命錯(cuò)誤的自動(dòng)駕駛汽車呢？華盛頓大學(xué)機(jī)器人法學(xué)專家瑞恩·卡羅對(duì)理論倫理的討論能否移植到實(shí)際關(guān)系中，持相當(dāng)懷疑的態(tài)度。

“在這些問題真正的出現(xiàn)之前，我們最好能夠主動(dòng)地預(yù)測(cè)并且解決這些問題。這類問題如果處理不慎，引發(fā)的法律訴訟將有可能會(huì)摧毀整個(gè)公司，或者在整個(gè)工業(yè)界留下巨大的陰影。”【END】

本文節(jié)選自《汽車公社》雜志7月刊封面故事

速度 深度 態(tài)度