[摘要]：在人工智能領(lǐng)域，強(qiáng)人工智能是指有自我意識、自主學(xué)習(xí)、自主決策能力的人工智能，也是人工智能發(fā)展的終極目標(biāo)，但是在意識問題沒有解決之前，強(qiáng)人工智能的實(shí)現(xiàn)還有很長的路要走。弱人工智能目前的深度學(xué)習(xí)還是一個典型的“黑箱”算法，連設(shè)計者可能都不知道它是如何決策，要在系統(tǒng)中發(fā)現(xiàn)是否存在歧視及其根源，在技術(shù)上是比較困難的。

一、 弱人工題智能倫理問的根源

由于目前的深度學(xué)習(xí)還是一個典型的“黑箱”算法，連設(shè)計者可能都不知道它是如何決策，要在系統(tǒng)中發(fā)現(xiàn)是否存在歧視及其根源，在技術(shù)上是比較困難的。傳統(tǒng)軟件的每一行代碼都由人類編寫，隨后經(jīng)由數(shù)學(xué)證明般的嚴(yán)謹(jǐn)驗(yàn)證，至少一些風(fēng)險應(yīng)用就是如此。深度神經(jīng)網(wǎng)絡(luò)卻與之大相徑庭，一切都是待涂寫的白紙。深度神經(jīng)網(wǎng)絡(luò)依據(jù)的是經(jīng)驗(yàn)知識，理論有所遲滯，有研究人員在通過可視化方法研究深度學(xué)習(xí)的特征提取和信息處理過程。但要解釋深度學(xué)習(xí)算法做出的每一個決定，目前還是比較困難。

雖然在大規(guī)模圖像處理、語音識別甚至音樂、繪畫等藝術(shù)領(lǐng)域的表現(xiàn)令人刮目相看，但沒人知道其決定的背后隱藏著什么，算法不僅僅會將歧視代碼化，而且會創(chuàng)造自己的現(xiàn)實(shí)，形成一個“自我實(shí)現(xiàn)的歧視性反饋循環(huán)”，包括預(yù)測性警務(wù)、犯罪風(fēng)險評估、信用評估等都存在類似問題。歸根到底，深度學(xué)習(xí)算法仍然缺乏人類這樣的聯(lián)想、記憶、學(xué)習(xí)、推理等高級智能。但一定程度上，它有些接近機(jī)器學(xué)習(xí)專家佩德羅·多明戈斯所提出的“終極算法”，意思是說通過數(shù)據(jù)學(xué)得包括過去、現(xiàn)在以及未來的所有知識的算法，創(chuàng)造該算法將是科學(xué)歷史上最大的進(jìn)步之一。迄今為止，這樣的算法并沒有被創(chuàng)造出來。深度學(xué)習(xí)只是一定程度上接近終極算法的理想，但很多表現(xiàn)已經(jīng)讓人類不可理解。

上述分析說明目前以算法為主的弱人工智能并不值得百分百信任。人類對這種新型智慧的認(rèn)識還太粗淺。

二、強(qiáng)人工智能倫理問題

在人工智能領(lǐng)域，強(qiáng)人工智能是指有自我意識、自主學(xué)習(xí)、自主決策能力的人工智能，也是人工智能發(fā)展的終極目標(biāo)，但是在意識問題沒有解決之前，強(qiáng)人工智能的實(shí)現(xiàn)還有很長的路要走。斯蒂芬·霍金、比爾·蓋茨、馬斯克都曾表示了對人工智能會具有自我覺知和意識的憂慮。霍金認(rèn)為人工智能可能是人類最大的災(zāi)難，如果管理不當(dāng)，會思考的機(jī)器可能終結(jié)人類文明。雖然霍金等人所擔(dān)憂的問題屬于現(xiàn)實(shí)中尚不存在的強(qiáng)人工智能所帶來的可能的、潛在的問題，但人類有必要預(yù)先考慮智能技術(shù)的發(fā)展造成的種種后果。因此，關(guān)于強(qiáng)人工智能倫理問題的討論，我們需要假定未來人類創(chuàng)造的人工智能具有了自我意識以及人性或人格，否則這種討論是沒有意義的。

關(guān)于強(qiáng)人工智能的倫理問題，我們需要思考如下幾方面：

（1）智能機(jī)器或自我意識的機(jī)器人的社會地位。一旦機(jī)器智能突破奇點(diǎn)，產(chǎn)生自我意識，具有人性特征，我們?nèi)绾卧诜缮辖缍ㄆ涞匚唬磥碛捎谌藱C(jī)融合的發(fā)展可能出現(xiàn)電子人、合成人等智能體，它們的人格如何確定？在它們受到傷害時，是否應(yīng)賦予其人道主義待遇？在傳統(tǒng)人類社會中的角色，它們的角色與人類的角色如何把握？   

（2）權(quán)利義務(wù)和行為責(zé)任。人類是否比智能機(jī)器人擁有更多的權(quán)利？智能機(jī)器人或智能機(jī)器是否應(yīng)比人類承擔(dān)更多的社會勞動和其他責(zé)任？比如服務(wù)機(jī)器人在照顧孩子、老人或病人時發(fā)生事故如何界定責(zé)任等等問題。

（3）人與智能機(jī)器之間的倫理關(guān)系。有了自我意識的智能機(jī)器與生物學(xué)意義上人類之間的關(guān)系注定變得復(fù)雜莫測。人類創(chuàng)造人工智能的目的在于讓機(jī)器變得更加智能，代替人類完成更多更復(fù)雜甚至更危險的工作，但由此帶來對人類社會傳統(tǒng)的個體、家庭以及社區(qū)、組織、機(jī)構(gòu)和企業(yè)之間的倫理關(guān)系影響將是非常復(fù)雜的，由此在強(qiáng)人工智能實(shí)現(xiàn)之前需要來自法律、哲學(xué)、倫理學(xué)、工程、技術(shù)以及政府、企業(yè)、社會組織等各方面的更多探討和研究。