當(dāng)我們懼怕算法時(shí)，懼怕的并非“算法黑箱”，也并非算法歧視

張欣

算法如何改變我們的生活

當(dāng)下，我們每個(gè)人如果環(huán)顧自己的生活，就會(huì)豁然發(fā)現(xiàn)：大數(shù)據(jù)時(shí)代算法技術(shù)應(yīng)用的日益普及，的確使我們大步流星地邁入到了一個(gè)充滿顛覆性和變革性的算法社會(huì)。

在算法社會(huì)中，不僅新聞傳播、購(gòu)物推薦、投資理財(cái)、職場(chǎng)評(píng)估、司法審判、智能警務(wù)等各個(gè)領(lǐng)域都迎來(lái)了顛覆性的變化，甚至在極為私密地尋找人生伴侶這種看似一切隨緣的人生大事上，也可能出現(xiàn)丹·斯萊特在《算法時(shí)代的愛(ài)情》一書(shū)中描繪的那樣：也許有一天，科學(xué)算法會(huì)幫你選定“靈魂伴侶”。只不過(guò)，“數(shù)字配對(duì)下的愛(ài)情”讓一切偶遇都變得不再神秘，算法時(shí)代的愛(ài)情可能很難再讓人產(chǎn)生“終于等到你”那般的刻骨銘心。

當(dāng)算法像一只無(wú)形之手開(kāi)始安排著我們的生活時(shí)，很多人萌生了一種焦慮和不安。

如果去網(wǎng)上書(shū)店查閱一下與算法相關(guān)的社會(huì)科學(xué)書(shū)籍，就會(huì)發(fā)現(xiàn)這樣的現(xiàn)象：大量的書(shū)籍和文章描述著算法可能帶來(lái)的危機(jī)?！八惴ㄆ缫暋薄八惴ê现\”“算法霸權(quán)”“算法黑箱”“算法短視”等術(shù)語(yǔ)甚囂塵上，時(shí)刻警醒著我們：算法社會(huì)的到來(lái)將會(huì)伴隨著新一輪的技術(shù)信任危機(jī)。

因此，在不得不張開(kāi)雙臂擁抱算法社會(huì)的來(lái)臨之時(shí)，不妨停下匆忙的腳步，去觀察算法社會(huì)到底如何改變我們的生活以及從本質(zhì)上追問(wèn)——當(dāng)我們懼怕算法時(shí)，到底在懼怕什么?

當(dāng)我們懼怕算法時(shí)，到底在懼怕什么

如今，一個(gè)主流“數(shù)字青年”可能早已習(xí)慣于這樣一種生活方式：用計(jì)步器衡量自己每天的活動(dòng)軌跡;用膳食APP記錄自己每餐攝入的卡路里;用智能手環(huán)監(jiān)測(cè)自己的睡眠;用點(diǎn)贊數(shù)量去衡量友情和人脈。

我們應(yīng)當(dāng)意識(shí)到，當(dāng)算法步入社會(huì)情境，進(jìn)而產(chǎn)生“算法歧視”“算法合謀”等社會(huì)問(wèn)題之前，算法首先帶來(lái)的是人們自我認(rèn)知方式的實(shí)質(zhì)性改變。

人們?cè)诂F(xiàn)實(shí)空間的本我之外，于虛擬空間通過(guò)數(shù)字化技術(shù)構(gòu)建了另外一個(gè)自我。伴隨著兩個(gè)世界的互通和連接，兩個(gè)自我不斷產(chǎn)生復(fù)雜互動(dòng)。

在積極的層面，美國(guó)《連線》雜志的主編加里·沃爾夫和凱文·凱利提出“量化自我”這一概念，用以描述“通過(guò)自我追蹤進(jìn)行自我認(rèn)知”的社會(huì)數(shù)字現(xiàn)象，并希望借此引領(lǐng)人們步入新型數(shù)字化生活。

而在消極層面，社會(huì)化情境下的數(shù)字化自我認(rèn)知可能會(huì)演變?yōu)橛　逗阽R》中描繪的可怕場(chǎng)景：借助數(shù)字社交評(píng)分系統(tǒng)建構(gòu)出的僵化、失控的社會(huì)秩序，將現(xiàn)實(shí)構(gòu)筑的傳統(tǒng)秩序和規(guī)則徹底顛覆。算法可能通過(guò)形成新的網(wǎng)絡(luò)空間社交規(guī)則，徹底改變?nèi)藗冏鳛樯鐣?huì)主體的存在方式。生活在這樣的世界中，只能根據(jù)算法設(shè)計(jì)者設(shè)定的數(shù)字化社交規(guī)則不?！氨硌荨倍@取評(píng)分。由此伴隨而來(lái)的則是自我的迷失和個(gè)人主體性的消解。

這種現(xiàn)象并非危言聳聽(tīng)。在美國(guó)，已經(jīng)出現(xiàn)了因?yàn)樵诰W(wǎng)絡(luò)社交平臺(tái)上的好友過(guò)少、互動(dòng)過(guò)低而導(dǎo)致在旅游服務(wù)網(wǎng)站上預(yù)定房間遭拒的諷刺案例。因此，對(duì)我們每一個(gè)人而言，算法出現(xiàn)并迅速占據(jù)商業(yè)和公共決策場(chǎng)域的這一事實(shí)，首先意味著客觀上個(gè)人主體性的消解。這意味著，在算法作出與人們利益悠關(guān)的決策時(shí)，人們可能處于一種無(wú)從知曉、無(wú)力參與、無(wú)法異議并最終難以抵抗的“失控”狀態(tài)。

此外，基于以下兩個(gè)層面的原因，失去對(duì)算法決策的選擇權(quán)和控制權(quán)將令人更加手足無(wú)措。

其一，在技術(shù)邏輯上，算法架構(gòu)的復(fù)雜性不斷增加。深度學(xué)習(xí)算法雖然常作出績(jī)效良好的決策，但卻無(wú)從了解其內(nèi)部運(yùn)作的邏輯和達(dá)成決策的依據(jù)。與此同時(shí)，算法的可靠性和準(zhǔn)確性也尚難通過(guò)合理的機(jī)制設(shè)計(jì)加以系統(tǒng)保證。因此算法決策及其應(yīng)用雖已強(qiáng)勢(shì)展開(kāi)，但卻尚未在功能層面建立穩(wěn)定良好的技術(shù)信任。

其二，在治理邏輯上，傳統(tǒng)設(shè)定的以聲譽(yù)機(jī)制(如職業(yè)資格認(rèn)定)、決策約束程序(如通知、公告、評(píng)論、參與、回避、異議、救濟(jì))為內(nèi)核的，旨在避免決策武斷和恣意、保證決策可信和正當(dāng)?shù)闹贫燃軜?gòu)在算法決策面前均顯失靈。這意味著，從治理層面，面對(duì)看似理性的算法，我們卻尚未探索出一套行之有效的機(jī)制建立治理層面的技術(shù)信任，從而對(duì)算法進(jìn)行約束使其具備算法理性這一功能特質(zhì)。

所以，當(dāng)我們懼怕算法時(shí)，懼怕的并非“算法黑箱”(實(shí)際上人腦決策也是黑箱)，也并非算法歧視(現(xiàn)實(shí)社會(huì)中也存在形式各異的歧視現(xiàn)象)。從實(shí)質(zhì)上說(shuō)，我們懼怕的是當(dāng)算法高效、系統(tǒng)性地輔助或者智能性地獨(dú)立作出一個(gè)個(gè)決策時(shí);當(dāng)算法運(yùn)用數(shù)據(jù)和模型把虛擬世界和現(xiàn)實(shí)世界的我們相聯(lián)結(jié)，將我們的過(guò)去、現(xiàn)在和未來(lái)相聯(lián)結(jié)時(shí)，這種由“聯(lián)結(jié)”帶來(lái)的“失控”狀態(tài)。

這種失控狀態(tài)意味著我們失去了對(duì)算法的技術(shù)信任，意味著我們不希望對(duì)算法應(yīng)用產(chǎn)生過(guò)多的依賴(lài)，意味著我們面對(duì)復(fù)雜、開(kāi)放、多元的算法并與其產(chǎn)生互動(dòng)之時(shí)心生恐懼。

如何實(shí)現(xiàn)算法信任

明確了我們對(duì)算法產(chǎn)生恐懼的根源，有助于審視和思考如何化解算法適用帶來(lái)的系列問(wèn)題。畢竟與人類(lèi)決策相比，已經(jīng)有研究表明：在股票股價(jià)、房地產(chǎn)鑒定、刑事審判、人力資源績(jī)效評(píng)估、財(cái)務(wù)審計(jì)等諸多決策領(lǐng)域中，算法的整體表現(xiàn)更優(yōu)。

由于決策偏差和決策噪音的存在，人類(lèi)決策常出現(xiàn)過(guò)度風(fēng)險(xiǎn)規(guī)避、決策短視、情緒影響等多種決策偏差。相信很多人都聽(tīng)過(guò)法官審判時(shí)的“午餐仁慈時(shí)刻”現(xiàn)象。這一現(xiàn)象的產(chǎn)生，恰是由于人類(lèi)決策時(shí)精神資源伴隨著時(shí)間變化發(fā)生了逐步退減和消耗，因此客觀上導(dǎo)致決策會(huì)在不同時(shí)間和條件下產(chǎn)生波動(dòng)。

所以，面對(duì)算法社會(huì)的來(lái)臨，我們應(yīng)當(dāng)如何發(fā)現(xiàn)“算法之美”，構(gòu)造安全、公平、透明、可問(wèn)責(zé)的算法，從而邁向信任算法的社會(huì)呢?

宏觀來(lái)看，算法治理是一項(xiàng)復(fù)雜而長(zhǎng)期的工程，需要算法設(shè)計(jì)者、算法使用者、相對(duì)主體(在不同的算法應(yīng)用場(chǎng)景下，可能受到算法影響的利益相關(guān)者)、立法者、監(jiān)管者、媒體等協(xié)同合作構(gòu)筑良性的技術(shù)運(yùn)行生態(tài)，逐步建立平衡個(gè)體利益和社會(huì)福利的運(yùn)行環(huán)境。從中觀層面看，解決這一問(wèn)題的核心和關(guān)鍵則在于通過(guò)豐富、高效的制度設(shè)計(jì)賦予個(gè)體以選擇權(quán)和掌控感。落實(shí)于微觀的制度設(shè)計(jì)上，需要立法者在探索賦予個(gè)體一系列知情、參與、異議、救濟(jì)的新型自動(dòng)化決策權(quán)利時(shí)，還應(yīng)從外部探索算法影響評(píng)估制度和算法問(wèn)責(zé)機(jī)制，從而在治理層面建立算法信任、發(fā)現(xiàn)算法之美。

(作者系對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院副教授)

責(zé)編：馬蓉蓉