■ 中國(guó)信息通信研究院云計(jì)算與大數(shù)據(jù)所 龔文全

智能音箱是以音箱為載體，利用計(jì)算機(jī)網(wǎng)絡(luò)、互聯(lián)網(wǎng)、音視頻等技術(shù)，具備語(yǔ)音識(shí)別、語(yǔ)音交互、自然語(yǔ)言理解、語(yǔ)音合成等功能，能夠?yàn)橛脩籼峁┬畔?、生活等服?wù)的設(shè)備。當(dāng)前，智能音箱安全問題頻發(fā)：2017年5月Alexa被曝出竊聽用戶聊天對(duì)話，并把錄音發(fā)送給通訊錄里的陌生人。2018年DefCon安全會(huì)議上，安全專家演示了對(duì)亞馬遜智能音箱Echo的攻擊，并實(shí)現(xiàn)對(duì)用戶進(jìn)行監(jiān)聽及控制音箱播放的內(nèi)容等等。

通過對(duì)國(guó)內(nèi)主要智能音箱廠商安全狀況進(jìn)行梳理發(fā)現(xiàn)，智能音箱面臨的安全風(fēng)險(xiǎn)可分為網(wǎng)絡(luò)安全風(fēng)險(xiǎn)、數(shù)據(jù)安全風(fēng)險(xiǎn)、算法安全風(fēng)險(xiǎn)、信息安全風(fēng)險(xiǎn)、社會(huì)安全風(fēng)險(xiǎn)和國(guó)家安全風(fēng)險(xiǎn)六方面。

(一) 網(wǎng)絡(luò)安全風(fēng)險(xiǎn)

“云+端”側(cè)存在安全漏洞風(fēng)險(xiǎn)，可引發(fā)系統(tǒng)安全問題。目前市面上的智能音箱多采用云平臺(tái)+兩端（移動(dòng)終端和智能設(shè)備端）的框架進(jìn)行傳輸通信。但由于智能音箱的服務(wù)由云平臺(tái)、移動(dòng)終端與智能設(shè)備端缺乏嚴(yán)格的安全管理及認(rèn)證，可能存在漏洞或后門等風(fēng)險(xiǎn)，一旦被攻破利用，可危及智能音箱產(chǎn)品或應(yīng)用的可用性，甚至有可能成為攻擊者遠(yuǎn)程控制智能音箱發(fā)動(dòng)DDoS 1攻擊的“肉雞”。據(jù)騰訊安全實(shí)驗(yàn)室發(fā)布的報(bào)告顯示，不法黑客們通常通過設(shè)備弱口令、遠(yuǎn)程命令執(zhí)行漏洞等對(duì)智能音箱設(shè)備發(fā)起攻擊，并利用蠕蟲感染和自主批量攻擊的方式來達(dá)到控制大量目標(biāo)設(shè)備的目的，實(shí)現(xiàn)構(gòu)建起龐大的僵尸網(wǎng)絡(luò)。

(二) 數(shù)據(jù)安全風(fēng)險(xiǎn)

廠商通過技術(shù)手段收集用戶信息，加大了個(gè)人隱私泄露風(fēng)險(xiǎn)。智能音箱產(chǎn)品需要通過不停監(jiān)聽喚醒詞來工作，當(dāng)默認(rèn)設(shè)定的喚醒詞被觸發(fā)時(shí)，音箱產(chǎn)品便會(huì)自動(dòng)記錄用戶的聲音，并將收集到的聲音傳回分析，繼而完成指令執(zhí)行。而智能音箱的智能化程度依賴于海量數(shù)據(jù)，包括大量用戶個(gè)人信息，以便提供個(gè)性化、定制化服務(wù)。在此背景及利益驅(qū)動(dòng)下，廠商通過技術(shù)手段收集用戶隱私成為普遍現(xiàn)象。例如亞馬遜公司曾被爆出，用戶家中的智能音箱Echo在未經(jīng)用戶授權(quán)的情況下，私自將家人間的聊天記錄發(fā)送給聯(lián)系人列表中的人。

黑客攻擊來自多方面，一旦被攻破將導(dǎo)致用戶數(shù)據(jù)泄露。因云側(cè)、端側(cè)存儲(chǔ)著用戶個(gè)人信息等隱私內(nèi)容，因此也成為黑客攻擊的熱點(diǎn)。尤其是隨著Android及iOS應(yīng)用逆向技術(shù)的成熟、云平臺(tái)攻擊方式的多樣性等原因，攻破其中任何一點(diǎn)便可成功獲取到用戶的詳細(xì)信息、偏好等敏感信息，并用于電信詐騙，電話騷擾等違法活動(dòng)。例如，攻擊者在成功實(shí)施入侵后，可輕易獲取包括受害者的家庭住址、手機(jī)號(hào)等用戶敏感信息，即可冒用用戶信息用于違法活動(dòng)。

(三) 算法安全風(fēng)險(xiǎn)

對(duì)抗樣本攻擊可誘使語(yǔ)音識(shí)別出現(xiàn)誤判，引發(fā)安全風(fēng)險(xiǎn)問題。隨著智能語(yǔ)音技術(shù)的應(yīng)用廣泛，智能音箱跟其它所有軟件一樣，都有可能被利用來做非法的事情。例如，伯克利人工智能研究人員Nicholas Carlini和David Wagner發(fā)明了一種針對(duì)語(yǔ)音識(shí)別AI的新型攻擊方法。只需增加一些細(xì)微的噪音，就可以欺騙語(yǔ)音識(shí)別系統(tǒng)產(chǎn)生任何攻擊者想要的輸出，從而實(shí)現(xiàn)身份盜用，欺騙認(rèn)證系統(tǒng)等非法行為。

(四) 信息安全風(fēng)險(xiǎn)

智能音箱加速不良信息的傳播途徑，增加了內(nèi)容監(jiān)管難度。隨著網(wǎng)絡(luò)內(nèi)容數(shù)量的不斷增加，智能音箱的內(nèi)容源可能會(huì)成為不法之徒宣揚(yáng)色情、恐怖主義傳播等不良信息的新手段，使得對(duì)有害內(nèi)容的封堵變得更加困難。除了智能音箱廠商不具備識(shí)別或處理涉黃、涉爆、涉政等違法違規(guī)的能力外，網(wǎng)絡(luò)傳播平臺(tái)自我把關(guān)意識(shí)不足，都成為增加內(nèi)容監(jiān)管難度的主要原因。例如，近期在荔枝、蜻蜓、喜馬拉雅等音頻平臺(tái)上，被爆出播放的部分音頻內(nèi)容包括性暗示或赤裸的性挑逗，聽眾不乏未成年人，不少內(nèi)容播放量在幾萬(wàn)到幾十萬(wàn)不等，已經(jīng)嚴(yán)重危害到青少年身心健康。

(五) 社會(huì)安全風(fēng)險(xiǎn)

智能音箱過度擬人化的設(shè)計(jì)，帶來了倫理道德的新風(fēng)險(xiǎn)。伴隨著帶屏智能音箱的問世，智能音箱結(jié)合視覺、聽覺形成“擬人化”的存在，賦予了智能音箱更多擬人化的特征。如果將兒童投入該環(huán)境中，兒童會(huì)把機(jī)器人視為有生命的個(gè)體，會(huì)認(rèn)為其有思想、會(huì)疼痛，是自己的朋友。但是當(dāng)兒童與智能產(chǎn)品長(zhǎng)時(shí)間共處就會(huì)形成某種信念，可能形成對(duì)智能化產(chǎn)品的不安全依戀關(guān)系，進(jìn)而遭受一種病態(tài)的依戀錯(cuò)亂。例如，本該由父母及其他人員陪護(hù)的職責(zé)轉(zhuǎn)換到了智能設(shè)備上，孩子與社會(huì)的交流機(jī)會(huì)減少，兒童由與人交互變成了與“擬人”的機(jī)器交互，從而產(chǎn)生倫理道德的風(fēng)險(xiǎn)。

(六) 國(guó)家安全風(fēng)險(xiǎn)

智能音箱變成信息竊取的工具，間接威脅國(guó)家安全。智能音箱可以獲取包括聲紋在內(nèi)的各種生物個(gè)性特征，一旦國(guó)家政策制定者以及其同事生活或工作在智能音箱的環(huán)境中，智能音箱能通過獲取用戶的信息進(jìn)行人物畫像，甚至在決策者做出決策之前就已經(jīng)預(yù)測(cè)了決策的結(jié)論，間接對(duì)國(guó)家安全造成嚴(yán)重威脅。例如，2018年7月的英國(guó)國(guó)會(huì)會(huì)議上加文·威廉姆森發(fā)表演講時(shí)，被他的手機(jī)Siri打斷，而這次會(huì)議是英國(guó)政府高層會(huì)議，他正在會(huì)議上發(fā)表關(guān)于敘利亞問題，Siri在未經(jīng)授權(quán)的情況下“偷聽”并發(fā)表了見解。

1) 及時(shí)出臺(tái)監(jiān)管政策，保障用戶數(shù)據(jù)與隱私

在信息安全方面，應(yīng)加快智能設(shè)備內(nèi)容源監(jiān)管政策的制定與出臺(tái)，從法律、政策層面進(jìn)一步的細(xì)化責(zé)任主體，同時(shí)對(duì)智能音箱廠商竊取數(shù)據(jù)等可能潛在的安全風(fēng)險(xiǎn)進(jìn)行審查，保障智能音箱的安全可控。智能音箱服務(wù)提供商應(yīng)進(jìn)行自我監(jiān)督，增加對(duì)不良內(nèi)容信息源的治理手段，提高識(shí)別、治理的技術(shù)能力。同時(shí)，廠商也應(yīng)鼓勵(lì)更多用戶共同參與，加強(qiáng)安全防范意識(shí)。如加強(qiáng)對(duì)網(wǎng)絡(luò)安全法的宣傳力度,讓用戶了解網(wǎng)絡(luò)有害信息治理工作,積極參與其中,成為治理中的重要力量。

在數(shù)據(jù)安全層面，應(yīng)該做到以下三點(diǎn)：首先，企業(yè)對(duì)用戶關(guān)心的數(shù)據(jù)保護(hù)要做到公開透明，在特定情況下收集用戶數(shù)據(jù)，要經(jīng)過用戶允許，否則不得擅自使用、轉(zhuǎn)讓用戶數(shù)據(jù)等行為的發(fā)生。第二，可將用戶個(gè)人信息按照內(nèi)容進(jìn)行分類，再依據(jù)各類信息的價(jià)值和安全風(fēng)險(xiǎn)，給予不同程度的保護(hù)，并對(duì)用戶進(jìn)行公開。最后，應(yīng)加強(qiáng)用戶數(shù)據(jù)的安全防護(hù)手段，完善用戶數(shù)據(jù)的安全機(jī)制，定期開展云側(cè)、端側(cè)的滲透測(cè)試，降低數(shù)據(jù)安全風(fēng)險(xiǎn)。

2) 完善技術(shù)規(guī)范與法律約束，降低倫理道德風(fēng)險(xiǎn)

在社會(huì)安全層面，可由政府有關(guān)部門牽頭，成立由技術(shù)專家、社會(huì)科學(xué)研究人員、政府管理人員為核心的人工智能設(shè)備管理委員會(huì)，對(duì)涉及人工智能設(shè)備的研究和開發(fā)項(xiàng)目進(jìn)行審核評(píng)估，嚴(yán)格控制從技術(shù)轉(zhuǎn)化為產(chǎn)品的環(huán)節(jié)。可要求開發(fā)者把人類的法律規(guī)范和道德要求用代碼的形式寫入機(jī)器，全部數(shù)字語(yǔ)言化，使其遵守人類的行為準(zhǔn)則。智能音箱廠商也可以將用戶的社會(huì)性、心理狀況等道德價(jià)值置入智能設(shè)備設(shè)計(jì)之中，打破智能設(shè)備本身的倫理壁壘。從程序的設(shè)計(jì)開始規(guī)避倫理失范、減少智能設(shè)備的過度擬人化等方式，最大程度降低智能設(shè)備帶來的倫理道德風(fēng)險(xiǎn)。

3) 提高應(yīng)急保障水平，增強(qiáng)語(yǔ)音算法的健壯性

在網(wǎng)絡(luò)安全層面，可以分別從以下兩個(gè)方面增強(qiáng)安全防護(hù)能力。一是在云端或移動(dòng)終端加入安全開發(fā)與設(shè)計(jì)，并引入安全測(cè)試，定期開展?jié)B透測(cè)試和風(fēng)險(xiǎn)評(píng)估；二是建立對(duì)云端、移動(dòng)終端實(shí)施全方位的安全監(jiān)控與運(yùn)維，形成完備的安全防護(hù)措施，確保云端、移動(dòng)端的安全防護(hù)及感知能力。

在算法安全方面，需增強(qiáng)對(duì)不合理數(shù)據(jù)輸入的反應(yīng)及處理能力，并增強(qiáng)語(yǔ)音識(shí)別算法模型的健壯性，將算法模型潛在風(fēng)險(xiǎn)縮小到最低程度，實(shí)現(xiàn)模型可靠，并建立起針對(duì)語(yǔ)音算法模型可靠、準(zhǔn)確的應(yīng)急響應(yīng)預(yù)案。