另外，還有一些人工智能系統(tǒng)，在某些特定的任務(wù)上，如寫詩、作畫、音樂生成、寫字上甚至通過了圖靈測(cè)試(注：圖靈測(cè)試中的測(cè)試用戶組的專業(yè)水平會(huì)很大程度影響測(cè)試的最終結(jié)果和結(jié)論)。例如DeepMind的唇語識(shí)別系統(tǒng)，甚至也超過了人類唇語識(shí)別專家的水平。本文將對(duì)當(dāng)前人工智能的現(xiàn)狀做一些初步的思考和探討。

強(qiáng)化學(xué)習(xí)帶來AI新時(shí)代

關(guān)于Alpha GO的技術(shù)討論和分析已經(jīng)隨處可見，深度強(qiáng)化學(xué)習(xí)的應(yīng)用是其成功的關(guān)鍵，這里我們討論的是其對(duì)人類智能的一些啟發(fā)和思考。首先，這樣的AI系統(tǒng)跟人類的學(xué)習(xí)機(jī)制是有很大不同的。

Alpha GO可以利用計(jì)算機(jī)強(qiáng)大的計(jì)算能力和建模算法的學(xué)習(xí)能力，短時(shí)間內(nèi)提升其對(duì)弈的水平，這在人類的學(xué)習(xí)過程中是不可能實(shí)現(xiàn)的。圍棋本質(zhì)是一個(gè)策略搜索問題，有明確的評(píng)價(jià)標(biāo)準(zhǔn)，利用大量的數(shù)據(jù)和先進(jìn)的計(jì)算模型，AI系統(tǒng)比較容易學(xué)習(xí)到最佳的策略;而人類受限于記憶、計(jì)算能力，更多從樣本學(xué)習(xí)、歸納、總結(jié)和延伸推理中進(jìn)行練習(xí)和提高。

雖然Alpha Go聲稱模擬了人類的學(xué)習(xí)機(jī)制，但實(shí)際上這兩者在學(xué)習(xí)機(jī)制方面存在顯著的差異。其次，人工智能系統(tǒng)有可能探索出人類智力水平尚沒有探索到的空間。關(guān)于Alpha GO的棋藝討論中，專業(yè)人士給出了各種分析，他們發(fā)現(xiàn)了一些很古怪的、人類從未嘗試過的下法。這其實(shí)要?dú)w功于強(qiáng)化學(xué)習(xí)的探索機(jī)制。

強(qiáng)化學(xué)習(xí)可以以一定概率去探索一些未知的空間，并計(jì)算這種探索對(duì)未來長(zhǎng)期回報(bào)的可能收益，因此，它可能探索出人類未知的知識(shí)和技能。從這個(gè)意義上來說，人工智能系統(tǒng)與人類可以形成很好的互補(bǔ)：智能系統(tǒng)利用強(qiáng)大的計(jì)算和存儲(chǔ)能力，可以探索未知的知識(shí)領(lǐng)域，延伸人類對(duì)事物的認(rèn)知。

盡管Alpha GO展示了人工智能系統(tǒng)的強(qiáng)大威力，但這并不意味著普遍意義的人工智能已經(jīng)達(dá)到或超過了人類的水平。在當(dāng)前的技術(shù)水平下，人工智能適合處理特定的任務(wù)，如計(jì)算密集型、搜索類(圍棋、國(guó)際象棋等)的任務(wù)就很適合智能系統(tǒng)處理。

而對(duì)于需要各種知識(shí)、語義理解、歸納和推理的任務(wù)，智能系統(tǒng)相對(duì)于人則還有較為遙遠(yuǎn)的距離。以人機(jī)對(duì)話系統(tǒng)為例，現(xiàn)在微軟小冰算是全世界做得最好的閑聊機(jī)器人之一了，但是用戶很快就會(huì)發(fā)現(xiàn)，她距離通過圖靈測(cè)試還非常遠(yuǎn)，還遠(yuǎn)遠(yuǎn)沒有達(dá)到人的對(duì)話能力和水平。

AI與各領(lǐng)域結(jié)合進(jìn)展矚目

人工智能與各行各業(yè)的結(jié)合，取得了令人矚目的進(jìn)展。這里僅以機(jī)器人、智能駕駛、信息處理領(lǐng)域的相關(guān)進(jìn)展為例進(jìn)行說明。

傳統(tǒng)機(jī)械領(lǐng)域與人工智能的結(jié)合產(chǎn)生了機(jī)械智能。工業(yè)機(jī)器人在汽車制造、電子電氣、橡膠及塑料、家用電器等行業(yè)發(fā)揮著突出作用，而且伴隨人工智能技術(shù)的發(fā)展，應(yīng)用領(lǐng)域更加廣泛。除了工業(yè)機(jī)器人，還有各種仿生機(jī)器人，在這里就必須提到機(jī)器人技術(shù)世界領(lǐng)先的波士頓動(dòng)力公司，其研發(fā)的產(chǎn)品如Atlas、SpotMini、WildCat、Spot、JumpingRobot等，以及早期的BigDog，涵蓋了雙足、四足、雙輪足式機(jī)器人。

這些機(jī)器人產(chǎn)品體現(xiàn)了各種人工智能技術(shù)的綜合運(yùn)用，具有超強(qiáng)的目標(biāo)識(shí)別、環(huán)境感知與建模、任務(wù)規(guī)劃、協(xié)調(diào)控制能力，充分體現(xiàn)了人工智能系統(tǒng)的綜合特點(diǎn)。此外，服務(wù)器機(jī)器人也逐步進(jìn)入家庭市場(chǎng)。其中，軟銀公司推出的Pepper情感機(jī)器人，具有一定的情緒感知和情感表達(dá)的能力，而MIT推出的Jibo、藍(lán)蛙公司的Buddy，則定位在社交機(jī)器人屬性，具有與家庭成員進(jìn)行互動(dòng)、完成任務(wù)、協(xié)助兒童學(xué)習(xí)等功能。

還需指出，制約家庭機(jī)器人發(fā)展的不僅僅是人工智能關(guān)鍵技術(shù)，還有涉及很多其他領(lǐng)域，包括機(jī)械、動(dòng)力甚至材料，例如，動(dòng)力的噪聲，傳感器的性能與價(jià)格等等。人工智能的發(fā)展必須與眾多領(lǐng)域同步，才能夠達(dá)到理想狀態(tài)。隨著未來人工智能及相關(guān)技術(shù)的逐步完善和成熟，服務(wù)機(jī)器人必將走進(jìn)千家萬戶，人與機(jī)器人和諧并存的社會(huì)雖然還需時(shí)日，但可以期待。

人工智能在汽車領(lǐng)域一個(gè)火熱的應(yīng)用就是無人駕駛，谷歌、特斯拉、百度等公司都在無人駕駛上進(jìn)行了布局和投入。2017年年初，Drive.ai公布一段在Drive.ai山景城總部進(jìn)行復(fù)雜路況、環(huán)境下的無人駕駛路測(cè)片段，視頻顯示該公司的無人駕駛技術(shù)能夠輕松應(yīng)對(duì)雨天夜間的極端復(fù)雜的現(xiàn)實(shí)路況。

這也意味著具有現(xiàn)實(shí)普及意義的無人駕駛離我們又近了一步。特斯拉、沃爾沃等高端品牌甚至已經(jīng)配置了無人駕駛的功能。無人駕駛是典型的人工智能技術(shù)的綜合運(yùn)用，需要處理復(fù)雜的目標(biāo)識(shí)別、環(huán)境感知與建模、規(guī)劃與控制、綜合決策等問題，對(duì)于智能系統(tǒng)的魯棒性、不確定性決策、安全性提出了更高的要求。

人工智能也極大地推動(dòng)了信息處理領(lǐng)域的進(jìn)展。IBM在2010推出的深度問答系統(tǒng)Watson，在知識(shí)問答類的節(jié)目中擊敗了人類冠軍選手，后來相關(guān)技術(shù)又在醫(yī)療健康領(lǐng)域得到運(yùn)用，在輔助診斷方面獲得了應(yīng)用。國(guó)內(nèi)搜狗公司研發(fā)的問答機(jī)器人在“一站到底”的節(jié)目中參加比賽，也取得了不俗的戰(zhàn)績(jī)。

在計(jì)算機(jī)視覺領(lǐng)域，人臉識(shí)別算法甚至能在性能要求苛刻的“刷臉”支付中應(yīng)用。在大規(guī)模的圖像分類數(shù)據(jù)集上，識(shí)別錯(cuò)誤率甚至低于人類的錯(cuò)誤水平。在語音識(shí)別上，深度學(xué)習(xí)算法將之前傳統(tǒng)模型的性能進(jìn)行了數(shù)量級(jí)的提升，使得連續(xù)語音識(shí)別的性能達(dá)到了可實(shí)用的標(biāo)準(zhǔn)(一定環(huán)境下)。

在創(chuàng)作類的任務(wù)上，例如圖像風(fēng)格轉(zhuǎn)換、寫詩、音樂創(chuàng)作、寫字、對(duì)對(duì)聯(lián)等方面，人工智能也取得了顯著的進(jìn)展，在某些特定的任務(wù)上甚至聲稱通過了圖靈測(cè)試。在人機(jī)對(duì)話方面，從任務(wù)助理類的虛擬機(jī)器人如蘋果的Siri、微軟Cortana、百度度秘、阿里小蜜，到閑聊情感陪護(hù)的微軟小冰，已經(jīng)逐步在改變?nèi)藱C(jī)交互的范式，促進(jìn)從鼠標(biāo)鍵盤、觸控模式到語音交互模式的轉(zhuǎn)換，也催生了互聯(lián)網(wǎng)行業(yè)對(duì)入口類設(shè)備如智能音箱的激烈爭(zhēng)奪。這些將會(huì)全面改變?nèi)伺c機(jī)器的交互方式以及信息管理方式。

優(yōu)秀AI須具備三特征

我們認(rèn)為，一個(gè)優(yōu)秀的人工智能系統(tǒng)之所以能號(hào)稱“人工智能”，應(yīng)該具有三個(gè)方面的特征：從數(shù)據(jù)或經(jīng)驗(yàn)中學(xué)習(xí)的能力、運(yùn)用知識(shí)的能力、處理不確定性的能力。

學(xué)習(xí)能力：系統(tǒng)需要具備從數(shù)據(jù)中或過去的經(jīng)驗(yàn)中學(xué)習(xí)的能力，這通常需要運(yùn)用機(jī)器學(xué)習(xí)算法。更進(jìn)一步，如果系統(tǒng)具備從環(huán)境交互中學(xué)習(xí)，在與用戶交互過程中動(dòng)態(tài)學(xué)習(xí)，具備一個(gè)不斷進(jìn)化和進(jìn)步的學(xué)習(xí)能力，那么就可能具備更高的智能水平。同時(shí)，學(xué)習(xí)過程應(yīng)該能夠融入盡可能多的知識(shí)類信息，方能夠達(dá)到支持智能系統(tǒng)的要求。

知識(shí)運(yùn)用能力：知識(shí)是智能體現(xiàn)的一個(gè)最重要的維度。聽說看能力如果不考慮內(nèi)容的深度，則僅僅是停留在感知智能的層面，只能與環(huán)境交互和獲取環(huán)境的信息，其智能表現(xiàn)的空間非常有限。只有基于知識(shí)的智能系統(tǒng)才能夠從根本上趨近人類的邏輯推理等深層次的智慧表現(xiàn)。知識(shí)可以歸納為關(guān)于客觀事物的規(guī)律、經(jīng)驗(yàn)、規(guī)則，或者各種常識(shí)的描述。一個(gè)智能系統(tǒng)應(yīng)該能夠很好的存儲(chǔ)與表示、運(yùn)用知識(shí)，并基于知識(shí)進(jìn)行歸納推理。只有將知識(shí)與數(shù)據(jù)融合，邏輯與統(tǒng)計(jì)結(jié)合，才能夠催生真正擁有認(rèn)知智能能力的智能系統(tǒng)。

不確定性處理能力：在現(xiàn)實(shí)生活中任何事情，確定性是相對(duì)的，不確定性是絕對(duì)的。因此，一個(gè)優(yōu)秀的智能系統(tǒng)還應(yīng)該具有很強(qiáng)的不確定性處理的能力，應(yīng)該能夠很好地處理數(shù)據(jù)中不確定性(噪聲、數(shù)據(jù)屬性缺失等)，模型決策的不確定性(決策結(jié)果的置信度等)，甚至模型內(nèi)部參數(shù)的不確定性。無人駕駛系統(tǒng)就需要處理各種各樣的不確定性如環(huán)境的不確定性、決策的不確定性，Alpha Go系統(tǒng)采用強(qiáng)化學(xué)習(xí)，以概率方式探索不同的落子方法。

目前，絕大多數(shù)人工智能的系統(tǒng)，還都或多或少地缺少這些應(yīng)有的特質(zhì)。

魯棒性可解釋性仍是局限

魯棒性：當(dāng)前以深度學(xué)習(xí)為代表的人工智能技術(shù)普遍面臨魯棒性的問題。首先，這些技術(shù)往往依賴大量的高質(zhì)量訓(xùn)練數(shù)據(jù)和計(jì)算資源來充分學(xué)習(xí)模型的參數(shù)。

但是，在訓(xùn)練數(shù)據(jù)量有限的情況下，深度神經(jīng)網(wǎng)絡(luò)的性能往往存在很大局限，一些規(guī)模巨大的深度神經(jīng)網(wǎng)絡(luò)也容易出現(xiàn)過擬合，使得在新數(shù)據(jù)上的測(cè)試性能遠(yuǎn)低于之前測(cè)試數(shù)據(jù)上的性能。

其次，在特定數(shù)據(jù)集上測(cè)試性能良好的深度神經(jīng)網(wǎng)絡(luò)，很容易被添加少量隨機(jī)噪聲的“對(duì)抗”樣本欺騙，系統(tǒng)很容易出現(xiàn)高可信度的錯(cuò)誤判斷。從另一個(gè)方面，系統(tǒng)初始建模時(shí)，由于數(shù)據(jù)充分使用能夠得到比較理想的效果，然而，在投入使用一段時(shí)期后，在線數(shù)據(jù)內(nèi)容的更新，就會(huì)產(chǎn)生系統(tǒng)性能上的偏差，嚴(yán)重時(shí)直接導(dǎo)致系統(tǒng)下線。

因此，可擴(kuò)展性也是人工智能系統(tǒng)實(shí)際應(yīng)用的關(guān)鍵問題之一。模型的可擴(kuò)展性，以及增量學(xué)習(xí)問題是絕對(duì)不可小覷的。如何應(yīng)對(duì)上述挑戰(zhàn)，發(fā)展魯棒性、可擴(kuò)展性的智能學(xué)習(xí)系統(tǒng)必將成為下一代人工智能系統(tǒng)的重要研究課題。在方法論方面，需要系統(tǒng)全面借鑒魯棒的人類認(rèn)知機(jī)理，不僅僅是神經(jīng)系統(tǒng)的特性，還有認(rèn)知系統(tǒng)(包括知識(shí)表示、更新、推理等)，發(fā)展更加具有生物合理性的人工智能系統(tǒng)。

可解釋性：當(dāng)前基于深度學(xué)習(xí)的人工智能系統(tǒng)普遍存在可解釋性不足的問題。絕大部分系統(tǒng)被當(dāng)做一個(gè)“黑盒”(即輸入-系統(tǒng)-輸出，系統(tǒng)的處理過程對(duì)用戶完全不可見)處理，中間的分析、決策過程對(duì)用戶來說不可見，也缺乏可交互性和操作性。

尤其大規(guī)模的深度學(xué)習(xí)系統(tǒng)，由于網(wǎng)絡(luò)中存在大量的復(fù)雜非線性變換和大規(guī)模的神經(jīng)元連接，少量的隨機(jī)擾動(dòng)就會(huì)導(dǎo)致最后結(jié)果的劇烈變化，其行為和表現(xiàn)難以理解和合理解釋。因此，可解釋性成為下一代人工智能系統(tǒng)的重要特性和研究課題。

一方面，具有較強(qiáng)可解釋性的模型可以讓使用者能夠更好地對(duì)機(jī)器決策的過程進(jìn)行理解，以決定相應(yīng)結(jié)果的置信度，增加人對(duì)系統(tǒng)的信任度;另一方面，具有可解釋性的模型能夠?yàn)橛脩籼峁┮粋€(gè)可操作的交互方式，使人的經(jīng)驗(yàn)介入到數(shù)據(jù)驅(qū)動(dòng)的建模和決策中，做到?jīng)Q策的追溯、引導(dǎo)和糾正，從而提升系統(tǒng)的性能與表現(xiàn)。

不斷磨練邁向強(qiáng)AI時(shí)代

人工智能在新的數(shù)據(jù)資源、計(jì)算資源、計(jì)算模型等的推動(dòng)下得到了蓬勃發(fā)展。在今天，我們擁有了更多的數(shù)據(jù)，更強(qiáng)大的計(jì)算資源，理論、算法和模型也得到了很大的推動(dòng)和發(fā)展，因此我們處在一個(gè)人工智能發(fā)展的最好時(shí)機(jī)中。

Alpha Go的成功讓世人認(rèn)識(shí)到人工智能成功的一面，開啟了人工智能的新時(shí)代。然而，對(duì)于具有很強(qiáng)學(xué)習(xí)能力、知識(shí)運(yùn)用能力、不確定性處理能力的人工智能系統(tǒng)的要求，還有一定的距離。當(dāng)前人工智能技術(shù)的魯棒性、可解釋性和可交互性等問題，也在實(shí)際應(yīng)用中漸漸被提到日程上來。

有問題不等于不能夠用，在人工智能研究不斷推進(jìn)的同時(shí)，落地的實(shí)用產(chǎn)品也不斷被推出，技術(shù)在實(shí)戰(zhàn)中磨練、更新。新一代人工智能技術(shù)將不斷在魯棒性、可解釋性、交互性等關(guān)鍵問題上實(shí)現(xiàn)更多突破。人類必將逐步走向理想的強(qiáng)人工智能時(shí)代。

(作者黃民烈系清華大學(xué)副教授，朱小燕系清華大學(xué)教授、智能技術(shù)與系統(tǒng)國(guó)家實(shí)驗(yàn)室主任)

(《中國(guó)電子報(bào)》版權(quán)所有，轉(zhuǎn)載請(qǐng)注明出處)