來源：《中國計(jì)算機(jī)學(xué)會通訊》2017年第11期《主編評語》

近年來人工智能的火爆興起，特別是最近AlphaGo Zero無須知曉人類圍棋經(jīng)驗(yàn)，自我博弈40天就稱霸世界，又一次引起人們對計(jì)算與智能的反思與追問，至少有三個問題面臨相互矛盾的要求，我稱為人工智能的三大悖論。

莫拉維克悖論。莫拉維克等學(xué)者研究發(fā)現(xiàn)：實(shí)現(xiàn)人類獨(dú)有的高階智慧只需要非常少的計(jì)算能力，但是實(shí)現(xiàn)無意識的技能和感知卻需要極大的運(yùn)算能力，也就是說，“困難的問題易解，簡單的問題難解”。這個悖論可能反映了圖靈機(jī)模型的局限性，需要提出更適合感知計(jì)算的新模型。實(shí)際上，圖靈的奠基性論文中還定義了C-機(jī)（選擇機(jī)）和u-機(jī)（無組織機(jī)）作為描述思維的模型。但1960年代以后，圖靈機(jī)從說明不可計(jì)算性逐步演變成解釋可計(jì)算能力的模型，人們已逐漸忘記了圖靈機(jī)模型的局限性。

目前流行的計(jì)算機(jī)都是基于圖靈機(jī)模型的馮·諾伊曼架構(gòu)，馮·諾伊曼發(fā)現(xiàn)模仿神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)計(jì)算機(jī)這條路走不通，從第一臺電子計(jì)算機(jī)開始，計(jì)算機(jī)的發(fā)展就與模擬人腦分道揚(yáng)鑣，使得用計(jì)算機(jī)實(shí)現(xiàn)人工智能的方式與人腦的思維機(jī)制幾乎不沾邊。現(xiàn)在一分錢可以買到1萬個集成電路上的晶體管，集成電路與軟件已積累難以估量的物質(zhì)財(cái)富，形成巨大的慣性。發(fā)展人工智能既要考慮計(jì)算機(jī)產(chǎn)業(yè)的巨大慣性，又要試圖突破圖靈機(jī)模型的局限，這是我們面對的第一個困境。

新知識悖論。人們常說大數(shù)據(jù)和機(jī)器學(xué)習(xí)是從數(shù)據(jù)中發(fā)現(xiàn)新知識，AlphaGo Zero 無師自通也說明在計(jì)算機(jī)上做統(tǒng)計(jì)學(xué)習(xí)可以學(xué)到人類還未掌握的圍棋知識。但從事計(jì)算機(jī)科學(xué)研究的學(xué)者認(rèn)為：計(jì)算機(jī)是機(jī)械的、可重復(fù)的智能機(jī)，本質(zhì)上沒有創(chuàng)造性。計(jì)算機(jī)的運(yùn)行可以歸結(jié)為已有符號的形式變換，結(jié)論已經(jīng)蘊(yùn)涵在前提中，本質(zhì)上不產(chǎn)生新知識，不會增進(jìn)人類對客觀世界的認(rèn)識（在CNCC的會士論壇中，林惠民院士就談了這樣的觀點(diǎn)）。機(jī)器學(xué)習(xí)學(xué)到的知識都事先蘊(yùn)涵在運(yùn)算前的軟件中嗎？機(jī)械的、可重復(fù)的計(jì)算究竟如何產(chǎn)生出新知識？這些知識都只能局限在“知其然不知其所以然”的水平嗎？這也是令人困擾的問題。

啟發(fā)式悖論。啟發(fā)式搜索是人工智能最基本的技術(shù)，與互聯(lián)網(wǎng)的“盡力而為”原則類似，啟發(fā)式搜索不能保證找到解或保證解的精度。本期的譯文《人工智能的真正風(fēng)險(xiǎn)》給出警告：采用啟發(fā)式算法創(chuàng)造出智慧幻覺的設(shè)備會帶來一些我們無法接受的風(fēng)險(xiǎn)。丘成桐教授在CNCC大會上也指出，人工智能的理論基礎(chǔ)非常薄弱，需要一個可以被證明的理論作為基礎(chǔ)。但是，人工智能處理的大多是NP-hard 問題，很可能不存在精確的多項(xiàng)式算法。一旦找到了類似F = ma的精確公式，這個問題也就不屬于人工智能問題了。我們必須高度重視啟發(fā)式算法的風(fēng)險(xiǎn)，但用傳統(tǒng)的工程科學(xué)來要求人工智能似乎不大妥當(dāng)，需要另辟蹊徑。

經(jīng)過60年培育，人工智能已長成碩果累累的大樹，我們不能只是拼命地?fù)u晃這棵大樹，在地上撿到一些零星的果實(shí)，而是要懷抱對未知的認(rèn)真和謙恭，多種幾棵新苗，解決這些悖論問題。