|
★ 北京大學(xué) 沈晴霓 邊緣學(xué)習(xí)旨在實(shí)現(xiàn)云-邊-端協(xié)同的機(jī)器學(xué)習(xí)模型訓(xùn)練和預(yù)測，天然具有一定隱私保護(hù)能力。但是，邊緣學(xué)習(xí)過程面臨新的安全與隱私泄露風(fēng)險(xiǎn)。為此，本文從邊緣學(xué)習(xí)的概念出發(fā)，重點(diǎn)圍繞邊緣學(xué)習(xí)安全與隱私泄露風(fēng)險(xiǎn)及其隱私計(jì)算架構(gòu)、關(guān)鍵技術(shù)、未來方向展開論述。 當(dāng)前，個人數(shù)據(jù)隱私保護(hù)備受關(guān)注，各國陸續(xù)推出隱私保護(hù)相關(guān)法律法規(guī)和技術(shù)標(biāo)準(zhǔn)，如歐盟《通用數(shù)據(jù)保護(hù)條例》、美國《統(tǒng)一個人數(shù)據(jù)保護(hù)法案》、英國《數(shù)據(jù)保障法案》、我國《數(shù)據(jù)安全法》和《個人信息保護(hù)法》以及ISO/IEC國際標(biāo)準(zhǔn)《信息技術(shù)-安全技術(shù)-隱私架構(gòu)框架》等，且聯(lián)邦學(xué)習(xí)、安全多方計(jì)算和可信執(zhí)行環(huán)境成為隱私計(jì)算三大主流技術(shù)體系。 邊緣學(xué)習(xí)使得數(shù)據(jù)在本地或者最近的邊緣服務(wù)器上得到處理，用于訓(xùn)練本地的機(jī)器學(xué)習(xí)模型，只需要和云中心通信必要的模型參數(shù)，一定程度上保護(hù)了數(shù)據(jù)的隱私性。但是“云-邊-端”架構(gòu)的邊緣學(xué)習(xí)模式在數(shù)據(jù)、網(wǎng)絡(luò)、計(jì)算和模型層面會面臨新的安全與隱私泄露風(fēng)險(xiǎn)，需要采用主流隱私計(jì)算技術(shù)保護(hù)邊緣學(xué)習(xí)過程隱私性，而這又對協(xié)同計(jì)算方之間交互的模型信息增加了加干擾、加密、部署可信執(zhí)行環(huán)境等操作，會降低最終模型的精度、影響模型的收斂速度和學(xué)習(xí)過程的公平性和持續(xù)性。為此，本文從邊緣學(xué)習(xí)概念、特征和分類出發(fā)，重點(diǎn)討論邊緣學(xué)習(xí)安全與隱私泄露風(fēng)險(xiǎn)、技術(shù)架構(gòu)與技術(shù)進(jìn)展，以及面臨的技術(shù)挑戰(zhàn)。 邊緣學(xué)習(xí)是一種基于“云-邊-端”層次化、分布式的計(jì)算框架，在邊緣層進(jìn)行模型訓(xùn)練與模型推理的過程，如圖1所示。邊緣學(xué)習(xí)具有如下特征：
圖1 邊緣學(xué)習(xí)架構(gòu)圖 邊緣計(jì)算支持云邊協(xié)同、邊邊協(xié)同、云邊端協(xié)同等模式，所以邊緣學(xué)習(xí)天然支持協(xié)同學(xué)習(xí)，利用異構(gòu)分布的計(jì)算設(shè)備協(xié)同訓(xùn)練模型。 邊緣學(xué)習(xí)過程參與的各個邊緣服務(wù)器能夠利用不同規(guī)模、不同類型、非獨(dú)立同分布的數(shù)據(jù)集進(jìn)行差異化學(xué)習(xí)。 邊緣學(xué)習(xí)是在數(shù)據(jù)源本地或者就近的邊緣服務(wù)器上進(jìn)行分析和處理，用于訓(xùn)練本地的機(jī)器學(xué)習(xí)模型，所以邊緣學(xué)習(xí)天然就具有一定的隱私保護(hù)能力。 邊緣學(xué)習(xí)使得數(shù)據(jù)在數(shù)據(jù)源本地或附近盡快得到處理，所以避免了在網(wǎng)絡(luò)上傳輸大量的數(shù)據(jù)，或者僅需與云/其他邊緣服務(wù)器/邊緣終端進(jìn)行少量地通信，大大降低了通信量。 邊緣學(xué)習(xí)根據(jù)體系結(jié)構(gòu)的不同，主要分為如下三類： 終端設(shè)備學(xué)習(xí)是指直接在終端設(shè)備上執(zhí)行神經(jīng)網(wǎng)絡(luò)模型學(xué)習(xí)過程，目的是減少終端設(shè)備與邊緣服務(wù)器之間的運(yùn)行延遲，并減少終端設(shè)備上隱私數(shù)據(jù)的泄露風(fēng)險(xiǎn)。這類邊緣學(xué)習(xí)架構(gòu)需要提供資源受限的終端設(shè)備上的模型設(shè)計(jì)、模型壓縮和硬件加速等三種技術(shù)。例如：從模型設(shè)計(jì)層面減少神經(jīng)網(wǎng)絡(luò)的參數(shù)數(shù)量，以滿足高精度要求下減少內(nèi)存和執(zhí)行延遲；通過參數(shù)剪枝和知識蒸餾等技術(shù)對原始模型以最小的精度損失來進(jìn)行壓縮；此外，供應(yīng)商通過整合現(xiàn)有的硬件資源（GPU、CPU等）以加速深度學(xué)習(xí)效率，或者設(shè)計(jì)專門用于深度學(xué)習(xí)的集成電路（ASIC），如谷歌的TPU，ShiDianNao及軟件開發(fā)工具發(fā)揮硬件的加速效果。 邊緣服務(wù)器學(xué)習(xí)是指將原屬于終端設(shè)備的所有神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)都放到邊緣服務(wù)器上，終端設(shè)備僅需發(fā)送數(shù)據(jù)與接收學(xué)習(xí)的結(jié)果，目的是解決資源受限的終端設(shè)備無法支持實(shí)時(shí)性要求高的大型神經(jīng)網(wǎng)絡(luò)計(jì)算，而放在云端計(jì)算又無法支持低延遲需求的問題。這類邊緣學(xué)習(xí)需要增加數(shù)據(jù)預(yù)處理和多任務(wù)資源管理兩種技術(shù)。例如，邊緣服務(wù)器只對發(fā)生了變更的數(shù)據(jù)執(zhí)行計(jì)算，否則將在終端設(shè)備上預(yù)處理；利用遷移學(xué)習(xí)技術(shù)處理來自多個終端設(shè)備的請求，使多個請求任務(wù)能夠共享神經(jīng)網(wǎng)絡(luò)的低層計(jì)算，只需特化對應(yīng)請求任務(wù)的少數(shù)高層計(jì)算。 云邊端協(xié)同學(xué)習(xí)是指利用智能協(xié)同技術(shù)，即根據(jù)硬件算力、模型分層、數(shù)據(jù)大小、網(wǎng)絡(luò)延遲和帶寬、隱私要求等諸要素，將終端設(shè)備、邊緣服務(wù)器，以及云智能地聯(lián)合起來共同參與計(jì)算，實(shí)現(xiàn)云邊端協(xié)同，優(yōu)化學(xué)習(xí)效率和增強(qiáng)隱私性。例如，可以將強(qiáng)大的神經(jīng)網(wǎng)絡(luò)模型學(xué)習(xí)任務(wù)遷移到邊緣服務(wù)器上執(zhí)行，而較弱的模型學(xué)習(xí)任務(wù)在終端設(shè)備本地執(zhí)行。也可以利用神經(jīng)網(wǎng)絡(luò)分層的特點(diǎn)進(jìn)行模型分離，一些層在終端設(shè)備上計(jì)算，一些層在邊緣服務(wù)器或云上計(jì)算；或者在不違背任務(wù)實(shí)時(shí)性條件下，合理使用云端的強(qiáng)大計(jì)算資源，幫助處理計(jì)算量大的請求，提高邊緣服務(wù)器的請求處理率和減少云邊之間的網(wǎng)絡(luò)流量。 邊緣學(xué)習(xí)的訓(xùn)練數(shù)據(jù)通常來自邊緣側(cè)的終端和設(shè)備，如用戶手機(jī)終端數(shù)據(jù)、企業(yè)的生產(chǎn)現(xiàn)場數(shù)據(jù)、傳感器上存儲的用戶的生理指標(biāo)數(shù)據(jù)、行為數(shù)據(jù)等，這些往往是用戶的隱私敏感數(shù)據(jù)。邊緣學(xué)習(xí)在本地的數(shù)據(jù)處理天然具有隱私保護(hù)能力，但是其使用智能協(xié)同技術(shù)，即根據(jù)硬件算力、模型分層、數(shù)據(jù)大小、網(wǎng)絡(luò)延遲和帶寬、隱私要求等諸多要素，將終端設(shè)備、邊緣服務(wù)器、云智能地聯(lián)合起來共同參與計(jì)算，實(shí)現(xiàn)“云-邊-端”協(xié)同，涉及的設(shè)備種類、規(guī)模和用戶群體復(fù)雜、調(diào)度管理機(jī)制和計(jì)算環(huán)境復(fù)雜。因此，邊緣學(xué)習(xí)數(shù)據(jù)、網(wǎng)絡(luò)、計(jì)算和模型面臨新的安全和隱私泄露風(fēng)險(xiǎn)，需要構(gòu)建隱私計(jì)算架構(gòu)，并開展相應(yīng)關(guān)鍵技術(shù)研究。 數(shù)據(jù)在邊緣層進(jìn)行模型訓(xùn)練與模型推理天然具有一定的隱私保護(hù)能力，但是在邊緣層的數(shù)據(jù)采集、傳輸和存儲等環(huán)節(jié)面臨風(fēng)險(xiǎn)。例如：在邊緣設(shè)備的數(shù)據(jù)采集過程中，由于網(wǎng)絡(luò)連接不穩(wěn)定、邊緣設(shè)備資源耗盡等原因，存在采集的原始數(shù)據(jù)不準(zhǔn)確、數(shù)據(jù)缺失等風(fēng)險(xiǎn)；在云邊端協(xié)同場景中，邊緣層通過網(wǎng)絡(luò)上傳敏感數(shù)據(jù)（如模型參數(shù)）給云端時(shí)，在未加密保護(hù)的情形下可能存在信道的數(shù)據(jù)竊聽風(fēng)險(xiǎn)；存儲在邊緣層的數(shù)據(jù)，由于邊緣層的數(shù)據(jù)安全防護(hù)措施缺少或薄弱的情況更加普遍，所以存在黑客入侵攻擊造成的數(shù)據(jù)竊取、篡改和丟失等風(fēng)險(xiǎn)。 邊緣學(xué)習(xí)的基礎(chǔ)設(shè)施大量部署在網(wǎng)絡(luò)的邊緣層，它們與海量、異構(gòu)、資源受限的終端設(shè)備大多采用短距離的無線通信技術(shù)，或者采用專用的工業(yè)協(xié)議，這些協(xié)議大多安全性考慮不足，因此會面臨一系列網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。例如：Modbus、Profinet、Zigbee等工業(yè)協(xié)議被頻繁爆出漏洞，極易被黑客利用；攻擊者利用惡意終端設(shè)備或邊緣路由器發(fā)起DDoS攻擊，或者產(chǎn)生沖突、干擾、阻塞通信，或者將欺詐性數(shù)據(jù)分組注入通信鏈路，或者在通信層欺騙、重定向、誤導(dǎo)或刪除數(shù)據(jù)分組，通過生成路由循環(huán)或錯誤消息更改路由信息等。 邊緣學(xué)習(xí)的計(jì)算設(shè)備主要包括具有邊緣算力的智能終端設(shè)備、工業(yè)控制設(shè)備、邊緣控制器、邊緣網(wǎng)關(guān)、邊緣計(jì)算服務(wù)器以及專用設(shè)備等，通常部署在行業(yè)現(xiàn)場，以實(shí)現(xiàn)實(shí)時(shí)的數(shù)據(jù)處理和決策，這些計(jì)算設(shè)備通常存在軟硬件漏洞及面臨著針對設(shè)備的攻擊風(fēng)險(xiǎn)。例如在智能家居場景中，為了在緊急情況下關(guān)閉供暖系統(tǒng)，恒溫器需要煙霧探測器的數(shù)據(jù)，因此攻擊者可能通過入侵煙霧探測器的方式控制整個家庭自動化系統(tǒng)。此外，攻擊者可能通過對設(shè)備的物理訪問提取有價(jià)值的加密信息，進(jìn)而篡改電路、修改編程或者更改操作系統(tǒng)，從而導(dǎo)致永久性破壞，或者利用側(cè)信道攻擊技術(shù)，對加密系統(tǒng)的安全性和可靠性構(gòu)成嚴(yán)重的敏感信息泄露威脅。 邊緣學(xué)習(xí)的主要任務(wù)是機(jī)器學(xué)習(xí)或深度學(xué)習(xí)模型的訓(xùn)練、部署和推理，面臨一系列模型攻擊的風(fēng)險(xiǎn)。例如：惡意節(jié)點(diǎn)在模型訓(xùn)練環(huán)節(jié)中實(shí)施投毒攻擊和隱私泄露攻擊。其中數(shù)據(jù)投毒攻擊，即惡意節(jié)點(diǎn)會注入一些惡意樣本對原始樣本數(shù)據(jù)集進(jìn)行污染，使得模型中毒，干擾模型的準(zhǔn)確率。模型投毒攻擊，即惡意節(jié)點(diǎn)通過推導(dǎo)和計(jì)算，對模型參數(shù)或梯度信息進(jìn)行精心的修改或替換，使得模型準(zhǔn)確率降低，造成模型可用性降低。此外，隱私泄露攻擊，即半誠實(shí)的云服務(wù)器通過收集明文梯度等信息，通過GAN網(wǎng)絡(luò)便可恢復(fù)邊緣層的原始樣本信息，造成隱私泄露。訓(xùn)練完成的模型，在云服務(wù)器或邊緣服務(wù)器存儲及下發(fā)過程中，在未加密保護(hù)情形下存在模型竊取、后門植入等風(fēng)險(xiǎn)。在模型推理環(huán)節(jié)，攻擊者精心構(gòu)造對抗樣本，加入人類不易察覺的微小擾動，達(dá)到欺騙模型的目的，或者通過訪問模型推理服務(wù)的API接口，從預(yù)測值反向推測輸入的原始樣本或其屬性信息，構(gòu)成成員推理和模型逆向攻擊。 隱私計(jì)算是指處理、分析和計(jì)算數(shù)據(jù)的過程中能夠保持?jǐn)?shù)據(jù)透明、不泄露、無法被計(jì)算方及其他非授權(quán)方獲取，即在提供隱私保護(hù)的前提下實(shí)現(xiàn)數(shù)據(jù)價(jià)值挖掘的技術(shù)體系。根據(jù)具體的實(shí)現(xiàn)方法，目前主要分為三大主流技術(shù)體系：一是聯(lián)邦學(xué)習(xí)，即在不公開數(shù)據(jù)的情況下執(zhí)行本地分析與處理，如：橫向聯(lián)邦學(xué)習(xí)、縱向聯(lián)邦學(xué)習(xí)和遷移聯(lián)邦學(xué)習(xí)等技術(shù)；二是安全多方計(jì)算（SMC），即在一個分布式網(wǎng)絡(luò)中，多個參與實(shí)體各自持有秘密輸入，各方希望共同完成某函數(shù)的計(jì)算，而要求使得每個參與實(shí)體除計(jì)算結(jié)果外均不能得到其他參與實(shí)體的任何輸入數(shù)據(jù)，所以在處理之前通常需要轉(zhuǎn)換數(shù)據(jù)和/或算法，如：差分隱私、同態(tài)加密、秘密共享、茫然傳輸、混淆電路等技術(shù)；三是可信執(zhí)行環(huán)境（TEE），即提供可信硬件支持的安全隔離環(huán)境來執(zhí)行和處理數(shù)據(jù)，如：ARM TrustZone、Intel SGX、AMD SEV、RISC-V keystone，以及國內(nèi)鯤鵬處理器、群/盲簽名、遠(yuǎn)程證明等安全保障技術(shù)。
圖2 邊緣學(xué)習(xí)：隱私計(jì)算架構(gòu) 因此，如圖2，面向邊緣學(xué)習(xí)的隱私計(jì)算軟件體系架構(gòu)自底向上為：密碼學(xué)算法與協(xié)議層、AI算法與工具層、邊緣學(xué)習(xí)優(yōu)化算法與工具層、隱私計(jì)算框架層等四個層次。其中： （1）密碼學(xué)算法與協(xié)議層：提供同態(tài)加密、秘密共享、茫然傳輸、混淆電路、零知識證明、群簽名、盲簽名、差分隱私和遠(yuǎn)程證明等基礎(chǔ)密碼學(xué)算法與協(xié)議，并提供基于上述算法與協(xié)議的四則運(yùn)算、比較運(yùn)算、邏輯運(yùn)算和矩陣運(yùn)算等類型的計(jì)算工具。 （2）AI算法與工具層：提供數(shù)據(jù)預(yù)處理階段的特征工程、激活函數(shù)計(jì)算，模型訓(xùn)練階段的優(yōu)化器、損失函數(shù)、梯度計(jì)算，以及模型預(yù)測和推理階段的聚合操作工具，并提供邏輯回歸、隨機(jī)森林、DNN/CNN、RNN、LSTM、Transformer等人工智能算法。 （3）邊緣學(xué)習(xí)優(yōu)化算法與工具層：提供深度學(xué)習(xí)模型設(shè)計(jì)、模型壓縮、模型分離、硬件加速、資源調(diào)度、計(jì)算遷移和協(xié)同計(jì)算等優(yōu)化算法和工具。 （4）隱私計(jì)算框架層：提供聯(lián)邦學(xué)習(xí)、SMC和TEE等隱私計(jì)算框架，實(shí)現(xiàn)相應(yīng)隱私計(jì)算算法容器的可信部署、計(jì)算任務(wù)的靈活調(diào)度、監(jiān)控和管理，支持金融、醫(yī)療、工業(yè)等邊緣學(xué)習(xí)場景，幫助構(gòu)建隱私保護(hù)的模型訓(xùn)練、模型推理，以及聯(lián)合統(tǒng)計(jì)、隱私求交、匿蹤查詢等典型應(yīng)用場景。 同時(shí)，針對邊緣學(xué)習(xí)面臨的數(shù)據(jù)、網(wǎng)絡(luò)、計(jì)算和模型層面風(fēng)險(xiǎn)（3.1節(jié)），需要提供相應(yīng)的安全保障機(jī)制。其中，需要提供差分隱私、同態(tài)加密、秘密共享和可驗(yàn)證計(jì)算等技術(shù)保障邊緣學(xué)習(xí)數(shù)據(jù)的私密性和完整性；需要提供通信信道安全、可靠連接、延遲可控和通信輪次減少等技術(shù)保障邊緣學(xué)習(xí)網(wǎng)絡(luò)的安全性和可靠性。需要提供計(jì)算環(huán)境可信、資源安全調(diào)度、身份安全認(rèn)證和硬件加速/TEE支持等技術(shù)保障邊緣學(xué)習(xí)計(jì)算節(jié)點(diǎn)的可信性和可用性。需要提供數(shù)據(jù)清洗、魯棒學(xué)習(xí)、對抗訓(xùn)練、模型融合等技術(shù)保障模型的機(jī)密性、完整性和可用性。 面向邊緣學(xué)習(xí)的隱私計(jì)算所依賴的關(guān)鍵技術(shù)主要包括聯(lián)邦學(xué)習(xí)、安全多方計(jì)算（SMC）和可信執(zhí)行環(huán)境（TEE）。從適用性上看，聯(lián)邦學(xué)習(xí)更適用于保密性要求不高但數(shù)據(jù)量大的模型訓(xùn)練，基于密碼學(xué)的SMC更適用于數(shù)據(jù)量適中但保密性要求較高的重要數(shù)據(jù)應(yīng)用，而TEE因?yàn)樾阅芎屯ㄓ眯跃哂休^大優(yōu)勢而更適用于復(fù)雜、數(shù)據(jù)量大的通用場景和通用算法，如大數(shù)據(jù)協(xié)作、人工智能模型保護(hù)等。從技術(shù)上看，聯(lián)邦學(xué)習(xí)的優(yōu)點(diǎn)是數(shù)據(jù)本地處理可降低隱私泄露風(fēng)險(xiǎn)，缺點(diǎn)是學(xué)習(xí)過程中參數(shù)傳遞和共享仍然會帶來隱私泄露問題，且通信開銷大、模型精度和收斂效率低；SMC的優(yōu)點(diǎn)是隱私性在理論上可證安全，但是協(xié)議交互和計(jì)算開銷大，且支持的計(jì)算類型有限。TEE的優(yōu)點(diǎn)是可以基于硬件實(shí)現(xiàn)類似全同態(tài)加密能力且性能遠(yuǎn)低于目前全同態(tài)加密算法，缺點(diǎn)是依賴于硬件，并且兼任性和計(jì)算開銷離產(chǎn)業(yè)需求還有一定距離。 基于聯(lián)邦學(xué)習(xí)的邊緣學(xué)習(xí)主要需要解決學(xué)習(xí)過程中參數(shù)傳遞和共享仍然會帶來的隱私泄露問題。例如：利用差分隱私技術(shù)保護(hù)模型參數(shù)，主要在云服務(wù)器聚合全局模型時(shí)對模型參數(shù)分別添加高斯噪音、普拉斯噪音，或者在參與方本地訓(xùn)練過程中為待傳遞模型參數(shù)添加高斯噪音；利用同態(tài)加密算法，對模型更新進(jìn)行加密，由云服務(wù)器聚合更新密文；在聯(lián)邦學(xué)習(xí)中利用函數(shù)加密、秘密共享技術(shù)實(shí)現(xiàn)安全多方計(jì)算來保護(hù)模型參數(shù)。 基于安全多方計(jì)算的邊緣學(xué)習(xí)需要互不信任的多方在不提供明文的情況下，在對輸入數(shù)據(jù)采用混淆電路、秘密共享和同態(tài)加密處理的基礎(chǔ)上進(jìn)行聯(lián)合函數(shù)計(jì)算，因此主要需要解決聯(lián)合計(jì)算執(zhí)行效率過低、通信開銷過大的問題。例如：采取剪切和選擇、并行處理以及預(yù)處理等手段優(yōu)化基于混淆電路的安全多方計(jì)算協(xié)議；將可擴(kuò)展的Spark框架與Sharemind SMC秘密共享框架結(jié)合，提出新的混合安全多方計(jì)算協(xié)議，提高了連接和聚合操作的執(zhí)行效率，以及降低通信成本；建立了TensorFlow機(jī)器學(xué)習(xí)框架之上的基于秘密共享的安全多方計(jì)算開源庫和協(xié)議代碼轉(zhuǎn)換方法，提高了計(jì)算執(zhí)行效率；基于帶門限的全同態(tài)加密、多密鑰參與的全同態(tài)加密構(gòu)建了安全多方計(jì)算協(xié)議，協(xié)議的通信成本較低。 基于可信執(zhí)行環(huán)境的邊緣學(xué)習(xí)需要解決三個主要問題：首先，邊緣學(xué)習(xí)場景下，云服務(wù)需要下沉到邊緣，而邊緣層為基于容器的微服務(wù)部署架構(gòu)，因此云原生應(yīng)用遷移到邊緣容器上部署運(yùn)行時(shí)需要構(gòu)建TEE邊緣容器，如：Gramine、Mystikos、Occlum等。LibOS開源項(xiàng)目，能夠支持云原生應(yīng)用無修改遷移到TEE（SGX）邊緣容器；其次，需要在邊緣服務(wù)器支持模型訓(xùn)練，因此需要在邊緣服務(wù)器支持AI算法庫和軟件框架，如:TensorSCONE是在SGX基礎(chǔ)硬件平臺上提出的一個安全的機(jī)器學(xué)習(xí)框架，secureTF框架在此基礎(chǔ)之上將SGX的保護(hù)拓展到Tensorflow的分布式框架上，為跨機(jī)器的有狀態(tài)機(jī)器學(xué)習(xí)提供安全保障。 云邊端協(xié)同的隱私計(jì)算技術(shù)，除了支持三種主流隱私計(jì)算技術(shù)之外，還需要通過優(yōu)化協(xié)同、優(yōu)化算法來提高模型精度，通過通信優(yōu)化、資源優(yōu)化來提高學(xué)習(xí)效率，通過引入?yún)^(qū)塊鏈等技術(shù)，以及價(jià)值度量和貢獻(xiàn)激勵機(jī)制提高云邊協(xié)同學(xué)習(xí)參與的積極性。 邊緣學(xué)習(xí)需要云邊端協(xié)同，采用隱私計(jì)算技術(shù)后，協(xié)同方之間交互的信息需要加干擾、加密、部署可信執(zhí)行環(huán)境等處理，會降低模型的收斂速度和最終模型的精度。因此，如何在保護(hù)數(shù)據(jù)隱私的前提下，盡可能提高協(xié)同學(xué)習(xí)模型的精度和最終模型的可用性成為了挑戰(zhàn)。 邊緣學(xué)習(xí)需要大量終端設(shè)備、邊緣服務(wù)器和云服務(wù)器交互協(xié)同，采用隱私計(jì)算技術(shù)后，增加的大量安全交互過程會產(chǎn)生額外的通信開銷，這會大大降低模型訓(xùn)練的效率。因此，如何在保護(hù)數(shù)據(jù)隱私的前提下，盡可能提高模型的學(xué)習(xí)效率成為了挑戰(zhàn)。 邊緣學(xué)習(xí)過程中，不同邊緣計(jì)算節(jié)點(diǎn)的數(shù)據(jù)集和資源差異大，對全局模型的貢獻(xiàn)度不同，采用隱私計(jì)算技術(shù)后，邊緣計(jì)算節(jié)點(diǎn)通常對交互的信息加干擾、加密、部署可信執(zhí)行環(huán)境等處理，會降低數(shù)據(jù)的價(jià)值和參與方的貢獻(xiàn)度，影響邊緣學(xué)習(xí)過程的可持續(xù)性。因此，如何在保護(hù)數(shù)據(jù)隱私的前提下，通過有效的激勵機(jī)制，保證邊緣學(xué)習(xí)過程的持續(xù)性成為了挑戰(zhàn)。 本文從邊緣學(xué)習(xí)的概念、特征及分類出發(fā)，重點(diǎn)圍繞邊緣學(xué)習(xí)面臨的安全與隱私泄露風(fēng)險(xiǎn)、隱私計(jì)算技術(shù)架構(gòu)及關(guān)鍵技術(shù)等三個方面的技術(shù)研究進(jìn)展進(jìn)行了分析與綜述，并展望了隱私計(jì)算技術(shù)未來在模型精度、學(xué)習(xí)效率和激勵機(jī)制三個方面面臨的技術(shù)挑戰(zhàn)。 參考文獻(xiàn)略。 沈晴霓，女，北京大學(xué)教授、博士生導(dǎo)師，兼任邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟安全工作組主席。主要研究方向?yàn)椴僮飨到y(tǒng)與虛擬化安全、大數(shù)據(jù)安全、云/邊緣計(jì)算安全、區(qū)塊鏈與隱私計(jì)算、可信計(jì)算等。 end 來源 | 《自動化博覽》2023年第2期暨《邊緣計(jì)算2023專輯》 |
|
|
