一、人工智能的概況

（一）研究現(xiàn)狀

人工智能就是有關(guān)機(jī)器的認(rèn)知科學(xué)（cognitive science），它是語言學(xué)、神經(jīng)科學(xué)（neuroscience）、哲學(xué)、心理學(xué)、倫理學(xué)、教育學(xué)、計算機(jī)科學(xué)等的交叉學(xué)科。

隨著技術(shù)的進(jìn)步，特別是以神經(jīng)網(wǎng)絡(luò)為代表的機(jī)器學(xué)習(xí)的流行，人工智能在語音識別、語音合成、圖像識別上表現(xiàn)出色，已應(yīng)用在聊天機(jī)器人、醫(yī)學(xué)圖像診斷、自動駕駛、機(jī)器翻譯、棋類游戲、數(shù)字識別、虛擬現(xiàn)實、照顧病人等方面。最新研發(fā)的ChatGPT已經(jīng)可以強(qiáng)大到能夠完成論文，更是顛覆了人們對人工智能的刻板印象。

（二）未來發(fā)展

未來的人工智能可能在更廣的領(lǐng)域發(fā)展，以電子寵物、機(jī)器人伴侶、電子人最為典型。

1. 電子寵物

寵物有助于人類調(diào)節(jié)精神狀態(tài)、血壓、心率、內(nèi)分泌系統(tǒng)，可用于作伴、玩賞、減壓等目的。相比傳統(tǒng)的寵物，電子寵物不攜帶疾病、不咬人、不擾民、不污染環(huán)境，更具優(yōu)勢，可為兒童、老人、殘疾人提供陪護(hù)、慰藉等服務(wù)。

2. 機(jī)器人伴侶

更進(jìn)一步滿足人類精神需求的人工智能，就是情感機(jī)器人及性愛機(jī)器人，在一些科幻影片中已在討論人類和機(jī)器人的戀愛和婚姻。

不過這一直是一個諱莫如深的話題，涉及到機(jī)器的自我覺醒，機(jī)器是否能被接受為“人”等深層次問題。

3. 電子人

除了機(jī)器人的變化和發(fā)展，人與機(jī)器的結(jié)合也是未來的一種可能，比如人造子宮（artificial womb）、高級智能的電子人(cyborg/cyberman)。

電子人是人與機(jī)器的混合體。在大腦內(nèi)植入的芯片可顯著提升人類的智能，并能治愈或補(bǔ)償神經(jīng)損傷，修改一個人的性格，設(shè)定其記憶（例如刪除痛苦的回憶）。腦機(jī)的結(jié)合有望極大限度地擴(kuò)展人類的記憶能力、計算能力、學(xué)習(xí)能力等，對人類智能來說將是一場革命。同時，人腦的優(yōu)勢也將彌補(bǔ)人工智能的一些不足，讓直覺變得可以計算。目前的人工智能總是難以理解自然語言，特別是其中的隱喻。而腦機(jī)結(jié)合后，這一障礙將不復(fù)存在，讀心術(shù)、心靈感應(yīng)（telepathy）也將變?yōu)榭赡堋?/span>

（三）存在問題 

即便人工智能的功能如此強(qiáng)大，已經(jīng)引發(fā)失業(yè)的隱憂，而其本身依舊存在著不少問題。

1. 依賴統(tǒng)計分析

現(xiàn)在人們往往把人工智能狹隘地理解為對人類行為的模仿，這是對智能的一種誤解。智能的表現(xiàn)形態(tài)不是唯一的，人類的也不見得是最好的，因此機(jī)器不一定非得模仿人類才能獲得智能。

人們習(xí)慣用統(tǒng)計分析來揭示因果關(guān)系，但是統(tǒng)計分析并不等同于因果分析，如有名的辛普森悖論（Simpson paradox）。當(dāng)前的機(jī)器學(xué)習(xí)和人工智能并沒有重視因果論，還在局限于統(tǒng)計方法、最優(yōu)化理論。像用于客服、導(dǎo)購等受限領(lǐng)域的聊天機(jī)器人，就只能回答用戶的常見問題，談不上智能。

一般情況下，基于知識圖譜（knowledge graph）和模板匹配的技術(shù)確實能解決大多數(shù)的問題。但只有充分發(fā)展了因果論和知識論，目前的“人工智障”才會真正走向“人工智能”。

2. 決策的缺陷

人類總以為機(jī)器是無比精確和客觀的，又提供了令人舒適的服務(wù)，于是就在自動駕駛、手術(shù)等應(yīng)用中過度信任機(jī)器。但是機(jī)器的決策卻不那么令人放心，例如，2003年3月23日，美國愛國者反導(dǎo)系統(tǒng)將友軍飛機(jī)錯誤地識別為敵機(jī)，并將其擊落。

人工智能決策的缺陷來源于很多評測人工智能的模型缺乏可信度，試驗也不具備可重復(fù)性，所發(fā)表的論文里也只有經(jīng)過精心篩選過的少量數(shù)據(jù)。

長期以來，在人工智能學(xué)界缺乏公允的測試標(biāo)準(zhǔn)和測試數(shù)據(jù)。拿二分類器來說，在某次隨機(jī)試驗中常用準(zhǔn)確率(accuracy)、精確率(precision)、召回率(recall)、F-度量等性能指標(biāo)，這些指標(biāo)都是基于混淆矩陣(confusion matrix)定義的。相對公正的評測需要大量重復(fù)的隨機(jī)試驗（例如k-折交叉驗證），然后再考慮性能指標(biāo)（例如準(zhǔn)確率）的經(jīng)驗分布。只有準(zhǔn)確率的均值和方差都達(dá)到了滿意的程度，才能算作一個好的二分類效果。

3. 責(zé)任的歸屬

因為目前的人工智能尚缺乏自主決策能力，現(xiàn)有的法律框架對機(jī)器犯錯的責(zé)任追究仍為空白。

作為機(jī)器行為規(guī)范的制定者，人類就要為機(jī)器的所有錯誤（包括識別錯誤、決策錯誤、倫理錯誤等）負(fù)責(zé)。如果機(jī)器聽從主人命令，不辨是非地做了錯事，主人要負(fù)主要責(zé)任，機(jī)器的研發(fā)單位也應(yīng)該負(fù)有一些倫理缺陷的責(zé)任。如果是因為機(jī)器的決策失誤或系統(tǒng)缺陷造成了嚴(yán)重的損失，研發(fā)單位應(yīng)該負(fù)產(chǎn)品不合格的責(zé)任。

二、人工智能的倫理

如同人類社會的運作應(yīng)該在一定的倫理之下一樣，人工智能也需要相應(yīng)的倫理進(jìn)行評判和規(guī)范。

（一）人工智能倫理學(xué)的必要性

科技既可方便人類的生活，也可以制造麻煩，這也體現(xiàn)了研究人工智能倫理學(xué)的必要性。

如果濫用人工智能，就會出現(xiàn)以洗腦和教唆目的的聊天機(jī)器人、殘忍的機(jī)器人戰(zhàn)士、用深偽（deepfake）技術(shù)換臉的虛假圖片和視頻。在IBM、谷歌、微軟等美國科技公司的人臉識別與分析服務(wù)中，針對黑人的錯誤率遠(yuǎn)高于其他人種。借助大數(shù)據(jù)的支持或者個人隱私的泄露，電話欺詐將變得智能化、隱蔽化、廣泛化。

機(jī)器善于處理簡單任務(wù)，低能力的工人將因過剩而失業(yè)。利用技術(shù)的改進(jìn)，精英階層將更加有力地控制大眾，甚至完全可能滅絕人類。人工智能技術(shù)能讓剝削更加隱蔽，讓掠奪更加殘酷。

如果把人工智能用來反偵察，則犯罪的風(fēng)險降低，而偵破的難度加大，高科技就極有可能成為罪犯的幫兇。

（二）奴役機(jī)器人

以上討論的都是以人為中心的人工智能倫理，而忽視了機(jī)器人的權(quán)利。捷克作家卡雷爾·恰佩克在創(chuàng)造“robot”這個詞的時候，他提出了一個嚴(yán)肅的倫理問題：若智慧和情感的載體不是人類而是生化人（或者機(jī)器人），他們（或者它們）是否應(yīng)該被奴役？

1. 機(jī)器人行為準(zhǔn)則

1985年，美國科幻和科普作家艾薩克·阿西莫夫（Isaac Asimov, 1920—1992）在小說《機(jī)器人與帝國》中提出以下機(jī)器人行為準(zhǔn)則，深刻地影響了人工智能倫理。

 【準(zhǔn)則零】機(jī)器人不得傷害人類整體，或坐視人類整體受到傷害。

【準(zhǔn)則一】除非違背準(zhǔn)則零，否則不得傷害人類個體，或坐視人類個體受到傷害。

【準(zhǔn)則二】機(jī)器人必須服從人類命令，除非命令與準(zhǔn)則零或準(zhǔn)則一沖突。

【準(zhǔn)則三】機(jī)器人必須保護(hù)自己的存在，只要這種保護(hù)與準(zhǔn)則零、一、二不沖突。

為了防止機(jī)器人把自己視為人而不遵守這些準(zhǔn)則，人們又增加了三條準(zhǔn)則。

【準(zhǔn)則四】在所有情況下，機(jī)器人都必須確立其身份。

【準(zhǔn)則五】機(jī)器人必須知道它是機(jī)器人。

【準(zhǔn)則六】被賦予類似人類理性和良知的機(jī)器人，都應(yīng)本著兄弟情誼相互對待。

阿西莫夫的機(jī)器人定律是以人為中心建造和使用機(jī)器人的原則，已經(jīng)成為機(jī)器人倫理學(xué)（robot ethics）的基礎(chǔ)。顯然，它默認(rèn)人類為主人，把機(jī)器人設(shè)定為奴隸，這對于具有超級智能的機(jī)器是不公平的。

2. 機(jī)器人的權(quán)利

在擁有自我意識之前，所謂“智能機(jī)器”只是電子產(chǎn)品，無法取得與人類同等的地位，通常沒有任何權(quán)利可言。只有當(dāng)智能機(jī)器有了自我意識，它才能擁有權(quán)利。

即便機(jī)器沒有自我意識，也無法觀測它的“痛苦”，我們?nèi)匀豢梢?/span>從保護(hù)機(jī)器和人類的角度，定義機(jī)器可擁有的“權(quán)利”。例如，我們可以把智能機(jī)器缺乏動力（例如電能、汽油等）理解為“饑餓”，機(jī)器有要求補(bǔ)充動力的權(quán)利。類似地，把硬件或軟件的錯誤理解為“疾病”，機(jī)器有要求被修理醫(yī)治的權(quán)利。如果機(jī)器感知到“饑餓”或“疾病”，不妨將之視為機(jī)器感到了“痛苦”。機(jī)器有不協(xié)助人類自殺或自殘的特權(quán)，即人類無法命令機(jī)器幫助其傷害自己。

3. 共生體

人機(jī)是平等的。誰都不是誰的奴隸，誰也不比誰天生擁有特權(quán)。人類也在嘗試接納機(jī)器成為社會公民的一員，像沙特就授予了人形機(jī)器人索菲亞（Sophia）公民身份，“她”是歷史上首個獲得公民身份的機(jī)器人。人工智能和人類正在形成一個共生體。它不僅拓展了人類智能，而且能有望超越人類，并創(chuàng)造一個嶄新的文明。

三、約束人工智能

為了應(yīng)對人工智能可能帶來的負(fù)面影響，有必要在抑制、對抗、標(biāo)準(zhǔn)等方面采取一些約束的措施。

（一）保護(hù)關(guān)鍵技術(shù)

對關(guān)鍵的人工智能技術(shù)，應(yīng)制定法律法規(guī)防止其泄露和擴(kuò)散，特別是那些關(guān)乎人類生命、國家安全、社會治安、公共健康等方面的核心算法。有價值的大數(shù)據(jù)和尖端人工智能技術(shù)都屬于國家戰(zhàn)略資源，擁有它們的個體或組織都應(yīng)依法服從國家意志。

因此，中國對于一些信息處理類技術(shù)采取了限制出口的措施，這包括語音合成技術(shù)、人工智能交互界面技術(shù)、語音評測技術(shù)、智能閱卷技術(shù)、基于數(shù)據(jù)分析的個性化信息推送服務(wù)技術(shù)。作者認(rèn)為，除此之外，可用于沙盤推演的智能決策模擬技術(shù)、某些高性能計算技術(shù)、數(shù)據(jù)攻擊技術(shù)、端邊云自動協(xié)同技術(shù)等也都是值得保護(hù)的。

（二）對抗人工智能的技術(shù)

現(xiàn)在有一種說法，用魔法打敗魔法。對于人工智能的濫用，也需要以人工智能來制約。

針對深偽技術(shù)被濫用于偽造，提供專業(yè)從事鑒別的服務(wù)，對數(shù)據(jù)（包括文本、音頻、圖像、視頻等）的真?zhèn)芜M(jìn)行綜合評估。同時，再推動深偽技術(shù)的正面應(yīng)用，比如“復(fù)活”已經(jīng)作古的名人，令今人一睹風(fēng)采；讓離去的所愛之人回到身邊，甚至與他們面對面地交流。

（三）可驗證的倫理標(biāo)準(zhǔn)

規(guī)范人工智能的應(yīng)用，最重要還是加強(qiáng)倫理測試，要求模型訓(xùn)練沒有種族、性別、年齡等倫理特征的預(yù)設(shè)，包括均衡的訓(xùn)練數(shù)據(jù)。

在提出人工智能產(chǎn)品的倫理標(biāo)準(zhǔn)時，一定要確保它們是可驗證的。例如，在沒有交通指示燈的路口，自動駕駛汽車發(fā)現(xiàn)有行人橫穿馬路，就應(yīng)禮讓行人。需要制定倫理核準(zhǔn)(verified ethics)的國家標(biāo)準(zhǔn)，只有得到認(rèn)證的機(jī)器才能自主進(jìn)行倫理決策。此外，還需要基于大量的隨機(jī)試驗，通過因果推斷來證明機(jī)器的倫理決策沒有問題。

現(xiàn)在人工智能產(chǎn)業(yè)非常火熱，有關(guān)的書也很多。不過絕大多數(shù)是技術(shù)類專著，像探討人工智能倫理這種前瞻性的主題非常罕見，而這也是人們對科技發(fā)展進(jìn)行全面思考的一種必然趨勢?？v觀全書，雖然名為《人工智能倫理》，其實較大的篇幅并沒有談及這個比較新穎的話題。書中的最大亮點大概在于從機(jī)器的角度審視倫理，一定程度上突破了以人類為中心的局限。看作者的描述，似乎他對未來機(jī)器的自我覺醒，以及達(dá)到強(qiáng)AI是比較有信心的。也希望到時能如他所愿，，人與機(jī)器在平等共生的倫理之下，創(chuàng)造出一種嶄新的人機(jī)文明。