對(duì)于個(gè)人電子產(chǎn)品而言，例如手機(jī)，平板電腦，便攜式電腦等等，或多或少，都會(huì)涉及到隱私計(jì)算，那么什么是隱私計(jì)算呢？理解隱私計(jì)算，先要澄清“隱私”的概念，那么，什么是隱私呢？進(jìn)而，明確隱私計(jì)算分別與隱私和計(jì)算之間的關(guān)系，即隱私計(jì)算是為了實(shí)現(xiàn)個(gè)人隱私保護(hù)而進(jìn)行的計(jì)算還是在實(shí)現(xiàn)了隱私保護(hù)的前提下進(jìn)行的計(jì)算？最后，才是隱私計(jì)算涉及的技術(shù)和方法。

1. 什么是隱私？

“隱私”一詞在中國(guó)最早出現(xiàn)于周朝初年，但在當(dāng)時(shí)，它的詞義和現(xiàn)代還有些不同，“隱私”在當(dāng)時(shí)的意思是衣服，也就是把私處藏起來(lái)的東西。

現(xiàn)在，隱私一般指?jìng)€(gè)人的不愿公開(kāi)的私事或秘密。隱私由“隱”和“私”兩個(gè)字組成，在漢語(yǔ)中，“隱”是隱避、隱藏，在《荀子·王制》中有“故近者不隱其能，遠(yuǎn)者不疾其勞”的語(yǔ)句，“隱”即為不公開(kāi)?！八健笔莻€(gè)人的、自己的，在《詩(shī)·小雅·大田》有“雨我公田，遂及我私”。在英語(yǔ)中，隱私一詞是“privacy”，在牛津詞典中解釋為獨(dú)處、秘密和不受公眾干擾的狀態(tài)，與漢語(yǔ)的意思基本相同。但漢語(yǔ)的“隱私”強(qiáng)調(diào)了隱私的主觀色彩，而英語(yǔ)的“privacy”更注重隱私的客觀性，體現(xiàn)了東西方的文明差異。

一般地，隱私可以分為身體隱私、行為隱私、身份隱私、名譽(yù)隱私、肖像隱私、個(gè)人收入隱私和個(gè)人經(jīng)歷隱私。隱私的主體是自然人，客體是自然人的個(gè)人事務(wù)，個(gè)人信息和個(gè)人領(lǐng)域，目的是指特定個(gè)人對(duì)其事務(wù)、信息或領(lǐng)域不愿他人探知或干涉。

在IT領(lǐng)域，隱私是一個(gè)抽象的概念，不能代替具體事物或人的行為，只是它們所反映出來(lái)的信息。也就是說(shuō)，隱私本質(zhì)上是一種信息，一種屬于私人不愿為他人知曉或干涉的信息。例如電子郵件、即時(shí)通信的內(nèi)容等，這些工具本身并不是隱私，只是其中記載并反映出來(lái)的信息才是隱私。

2. 什么是隱私保護(hù)？

隱私保護(hù)原本是個(gè)人的行為，是為了提高個(gè)體的安全，其根本原因在于隱私數(shù)據(jù)所有權(quán)和使用權(quán)的分離。

例如，對(duì)于大多數(shù)人而言，姓名和性別是他們的公共屬性，而且通常愿意揭示它們，不屬于隱私。在某些情況下，個(gè)人的年齡，身高和體重可能是隱私數(shù)據(jù)。但是有時(shí)同樣要公開(kāi)，例如看病的時(shí)候，一個(gè)醫(yī)生需要知道病人身體和精神上的細(xì)節(jié)，如果需要會(huì)診，這些隱私數(shù)據(jù)還會(huì)開(kāi)放給一組醫(yī)生，醫(yī)生們需要使用這些數(shù)據(jù)對(duì)病情進(jìn)行診斷。

也就是說(shuō)，個(gè)人隱私數(shù)據(jù)可能需要提供給某些群體，所有權(quán)和使用權(quán)產(chǎn)生了分離，所以需要加以保護(hù)，以免被不必要的人看到。這些團(tuán)體可能會(huì)有意無(wú)意地對(duì)個(gè)人隱私數(shù)據(jù)進(jìn)行擴(kuò)散，甚至?xí)斐蔀E用，進(jìn)而可能對(duì)個(gè)人的生活產(chǎn)生不良影響，所以需要隱私保護(hù)。

對(duì)隱私保護(hù)的直觀方式是什么都不透露，但這幾乎是不切實(shí)際的。隨著時(shí)間的推移，隱私的概念已經(jīng)發(fā)生了演變。有人建議隱私不能進(jìn)入數(shù)據(jù)庫(kù)，即從數(shù)據(jù)庫(kù)中無(wú)法了解任何關(guān)于個(gè)人的信息，也有人強(qiáng)調(diào)，個(gè)人的隱私可以被視為“隱藏在人群中”，更一般的看法是，信息收集和傳播應(yīng)適合于確定的場(chǎng)景，并遵守有關(guān)信息傳播的規(guī)范。

那么如何明確隱私保護(hù)中的場(chǎng)景？換句話說(shuō)，隱私保護(hù)中的風(fēng)險(xiǎn)點(diǎn)都有哪些呢？

3. 隱私保護(hù)中的風(fēng)險(xiǎn)點(diǎn)

在隱私保護(hù)中，大約有3個(gè)主要的風(fēng)險(xiǎn)點(diǎn)：信息披露，數(shù)據(jù)處理以及隱私與實(shí)用性間的矛盾。

這里還是以看病的場(chǎng)景為例。醫(yī)院使用數(shù)據(jù)庫(kù)來(lái)保存病人的記錄，該數(shù)據(jù)庫(kù)由多個(gè)表組成，這些表存儲(chǔ)了患者的個(gè)人信息、病史和醫(yī)院所需的其他細(xì)節(jié)，例如身份證號(hào)、姓名、民族、性別、家庭住址、婚姻狀況和診斷出的疾病等。其中包括了個(gè)人身份信息和具體事務(wù)的信息，都涉及了隱私數(shù)據(jù)。這些數(shù)據(jù)極為重要，是醫(yī)療服務(wù)的基礎(chǔ)，除了記錄了治療的結(jié)果之外，還能應(yīng)用于研究和提高藥物的效力以及監(jiān)測(cè)并限制疾病的傳播等等。然而，未經(jīng)授權(quán)披露醫(yī)療數(shù)據(jù)可能會(huì)侵犯患者隱私，而且這種侵犯可能會(huì)造成經(jīng)濟(jì)、精神和社會(huì)影響。例如，一些疾病的披露會(huì)嚴(yán)重影響患者過(guò)正常生活的能力。個(gè)人信息數(shù)據(jù)的泄露，比如信用卡信息，可能導(dǎo)致欺詐性的網(wǎng)上支付。因此，數(shù)據(jù)的安全性和隱私性都至關(guān)重要。

如果隱私提供了一個(gè)手機(jī)App讓患者填寫(xiě)個(gè)人信息，那么個(gè)人信息是安全的嗎？除了關(guān)于病情的信息，為什么還要收集其他信息？誰(shuí)能接觸到這些數(shù)據(jù)？如果醫(yī)院把這些數(shù)據(jù)分享給第三方呢？

3.1 信息披露風(fēng)險(xiǎn)

在任何數(shù)據(jù)集中，個(gè)人信息披露都是密切相關(guān)的，可按嚴(yán)重程度排序如下:

關(guān)系資格的披露 << 敏感屬性披露 << 標(biāo)識(shí)信息的披露

按照給定的順序，每個(gè)都可能包含在另一個(gè)信息中。由于風(fēng)險(xiǎn)被定義為“披露的可能性”乘以“披露的影響”，那么如果披露確實(shí)發(fā)生，這些披露中的任何一個(gè)都可能比另外兩個(gè)帶來(lái)更大的風(fēng)險(xiǎn)，這取決于整體情況。

在醫(yī)院的示例中，關(guān)系資格的披露相當(dāng)于公開(kāi)了一個(gè)人是某醫(yī)院的患者，敏感屬性披露相當(dāng)于公開(kāi)了一個(gè)人得了某種的疾病，標(biāo)識(shí)信息的披露相當(dāng)于公開(kāi)了一個(gè)人的身份信息。在當(dāng)前新冠信息的披露中，一般不包含標(biāo)識(shí)信息的披露。醫(yī)院作為授權(quán)用戶，應(yīng)該有足夠的安全控制，防止未經(jīng)授權(quán)的用戶訪問(wèn)數(shù)據(jù)，從而保護(hù)個(gè)人數(shù)據(jù)，保護(hù)個(gè)人隱私。即便如此，也不是醫(yī)院中的每位醫(yī)生都能訪問(wèn)所有個(gè)人數(shù)據(jù)的。

在考慮披露風(fēng)險(xiǎn)時(shí)，需要注意的是，面向安全時(shí)假定了用戶和攻擊者是不同的，而面向隱私時(shí)合法用戶也可能是攻擊者，城堡很多是從內(nèi)部攻破的。對(duì)于安全性，可以通過(guò)安全控制來(lái)減輕未授權(quán)用戶的惡意意圖，而對(duì)于隱私性，則需要一組不同的控制。因此，一個(gè)好的安全框架并不足以保證隱私。

3.2 數(shù)據(jù)處理風(fēng)險(xiǎn)

為了減輕信息披露的風(fēng)險(xiǎn)，是否可以刪除個(gè)人身份信息呢？

個(gè)人身份信息不能被物理刪除，否則無(wú)法實(shí)現(xiàn)目標(biāo)的業(yè)務(wù)邏輯。實(shí)際上，刪除可以實(shí)現(xiàn)為“用虛擬值替換”，以滿足數(shù)據(jù)庫(kù)或應(yīng)用程序的約束和要求。這似乎是一個(gè)有希望的解決方案，因?yàn)閿?shù)據(jù)集中可能的成員關(guān)系和身份都沒(méi)有顯示。這樣能保護(hù)個(gè)人的隱私嗎？遺憾的是，事實(shí)并非如此，因?yàn)榭梢酝ㄟ^(guò)數(shù)據(jù)處理時(shí)這種替換關(guān)系的“連接”，識(shí)別出了大多數(shù)數(shù)據(jù)對(duì)象。因此，僅僅刪除個(gè)人身份信息并不能保證隱私。

如果敏感數(shù)據(jù)被進(jìn)一步清洗還存在風(fēng)險(xiǎn)么？

一般地，關(guān)系資格數(shù)據(jù)對(duì)個(gè)人而言，隱私的重要程度可能沒(méi)有那么高。例如，我可能不介意我曾是友誼醫(yī)院的患者，但是會(huì)介意我去醫(yī)院看了什么病。為了克服這個(gè)問(wèn)題，對(duì)敏感值進(jìn)行逐列重組似乎是一種可能的解決方案。然而，這并不起太大作用，因?yàn)榧词箶?shù)值亂序，它們的分布仍然是相同的，這可能足以推斷出個(gè)人的敏感數(shù)據(jù)，當(dāng)數(shù)據(jù)分布不均時(shí)尤其如此。

如果所有東西都被移除了呢？

將所有記錄替換為接近原始數(shù)據(jù)的合成數(shù)據(jù)可以保護(hù)隱私，因?yàn)檫@些數(shù)據(jù)并不指向現(xiàn)實(shí)世界中的任何個(gè)人。綜合數(shù)據(jù)保留了原始數(shù)據(jù)的結(jié)構(gòu)和特征屬性。利用生成對(duì)抗網(wǎng)絡(luò)(GAN)等技術(shù)，現(xiàn)在可以生成具有真實(shí)數(shù)據(jù)特性的合成數(shù)據(jù)。但它的局限性在于所得結(jié)果的準(zhǔn)確性有損失，因此，這種方法并不適用于某些應(yīng)用場(chǎng)合。例如，在就醫(yī)的場(chǎng)景中，用于癌細(xì)胞預(yù)測(cè)的機(jī)器學(xué)習(xí)模型需要非常高的準(zhǔn)確性與精度。在這種情況下，完全依賴綜合生成的數(shù)據(jù)可能會(huì)造成不同的漏洞。

3.3 隱私與實(shí)用性間的矛盾

隱私與實(shí)用性之間是矛盾的，向授權(quán)用戶提供數(shù)據(jù)訪問(wèn)是有益的。隱私的挑戰(zhàn)是在完全公開(kāi)的數(shù)據(jù)和完全保留的數(shù)據(jù)之間找到平衡。當(dāng)原始數(shù)據(jù)完全共享時(shí)，它的實(shí)用性最大，但隱私性最小; 當(dāng)不披露任何信息時(shí)，隱私性最大，但實(shí)用性有限。正像百度Robin曾經(jīng)說(shuō)過(guò)的那樣“用戶在一定程度上愿意用隱私換方便和效率”，盡管遭到了無(wú)數(shù)人黑，但是他只是說(shuō)出了事情的真相而已。

理想的解決方案是將隱私和實(shí)用性都提高到最大可能的水平。由于隱私權(quán)和實(shí)用性要求的沖突，這是非常具有挑戰(zhàn)性的。這要求我們能夠在隱私和實(shí)用性之間取得平衡，使用技術(shù)手段在特定環(huán)境中分享有用的個(gè)人數(shù)據(jù)，并防止侵犯?jìng)€(gè)人的隱私。

那么，有哪些不同的隱私保護(hù)技術(shù)? 這些技術(shù)在實(shí)踐中是如何應(yīng)用的呢？

4. 隱私保護(hù)的技術(shù)

4.1 匿名技術(shù)

傳統(tǒng)方法，如隨機(jī)化，數(shù)據(jù)亂序和數(shù)據(jù)變換已經(jīng)能夠在一定程度上保護(hù)隱私，但數(shù)據(jù)公開(kāi)的風(fēng)險(xiǎn)仍然存在。匿名技術(shù)是一種保護(hù)隱私的技術(shù)，它克服了傳統(tǒng)方法的局限性。

匿名技術(shù)實(shí)際上是讓一個(gè)人“泯然眾人矣”。那么，“眾人”是幾個(gè)人呢？這就是k 匿名化技術(shù)背后的一個(gè)理念，使得 k 條記錄在數(shù)據(jù)集中看起來(lái)相似的，也就是說(shuō)，每個(gè)人的隱私數(shù)據(jù)隱藏在 k 個(gè)相似的記錄中。如果一個(gè)人的信息無(wú)法與其他信息也出現(xiàn)在數(shù)據(jù)中的 k-1個(gè)人區(qū)分開(kāi)來(lái)，那么已發(fā)布的數(shù)據(jù)具有 k 匿名性。k 匿名化技術(shù)緩解了鏈接攻擊的風(fēng)險(xiǎn)。

標(biāo)識(shí)符的轉(zhuǎn)換可以通過(guò)泛化和抑制等技術(shù)來(lái)實(shí)現(xiàn)。對(duì)于抑制，屬性的部分或全部值可以替換為 * ，對(duì)于泛化，屬性的單個(gè)值被表示更廣泛范圍或類別的值替換，例如，很多網(wǎng)絡(luò)應(yīng)用在顯示用戶手機(jī)號(hào)時(shí)都用”*”來(lái)替代了號(hào)碼中的中間4位。更高的通用性允許映射更多的記錄，從而實(shí)現(xiàn)更高級(jí)別的隱私，盡管這可能會(huì)顯著影響數(shù)據(jù)實(shí)用性。此外，對(duì)屬性使用單一策略泛化所有記錄可能不是最佳策略。這種保護(hù)隱私的數(shù)據(jù)轉(zhuǎn)換稱為重新編碼。在全局編碼中，特定的詳細(xì)值必須映射到所有記錄中相同的通用值。本地編碼允許將相同的詳細(xì)值映射到每個(gè)匿名組中不同的通用值。

盡管數(shù)據(jù)的 k 匿名化可以防止鏈接攻擊，并且攻擊者不能高度確定地鏈接到其他數(shù)據(jù)庫(kù)，但是它仍然可能揭示敏感信息。這被稱為同質(zhì)性攻擊，其中所有 k 個(gè)體具有相同的敏感值。類似地，如果攻擊者有關(guān)于某個(gè)人的額外信息，則可能以很高的概率重新識(shí)別該記錄，從而導(dǎo)致背景知識(shí)攻擊。因此，k 匿名并不能提供任何針對(duì)這種攻擊的科學(xué)保證。

最佳 k 匿名性是否可以通過(guò)修改最小數(shù)量的數(shù)據(jù)來(lái)實(shí)現(xiàn)？對(duì)于多維數(shù)據(jù)來(lái)說(shuō)，實(shí)現(xiàn)最佳 k 匿名性是一個(gè) NP 難題。此外，選擇 k 作為可接受的 k 匿名性水平提出了另一個(gè)挑戰(zhàn)。為了實(shí)現(xiàn) k 匿名性，在記錄的泛化或抑制過(guò)程中會(huì)丟失信息，泛化程度越高，效用越低。

為了克服其中的缺點(diǎn)，人們提出了不同的 k 匿名技術(shù)。L多樣性就是這樣一種變體，其中任何敏感屬性在每個(gè)群體中都應(yīng)該有 l 個(gè)不同的值。這可以確保敏感屬性得到很好的表示，但是它也涉及到抑制或添加可能會(huì)改變數(shù)據(jù)的分布。這種抑制或添加引起了對(duì)從數(shù)據(jù)集中得出的統(tǒng)計(jì)結(jié)論有效性的關(guān)注，任意 k子集中敏感屬性的分布不僅是 l多樣性的，而且接近于整個(gè)數(shù)據(jù)集中屬性的分布。此外，這兩個(gè)分布之間的距離是通過(guò)閾值 t 來(lái)測(cè)量的。數(shù)據(jù)的維度仍然是一個(gè)挑戰(zhàn)，對(duì)于像時(shí)間序列這樣的高維數(shù)據(jù)，提供與低維數(shù)據(jù)相同的隱私保護(hù)是相當(dāng)困難的。

匿名技術(shù)已經(jīng)在隱私中敏感數(shù)據(jù)發(fā)布場(chǎng)景中有了很多實(shí)現(xiàn)，應(yīng)用范圍已經(jīng)從關(guān)系數(shù)據(jù)庫(kù)擴(kuò)展到圖等匿名組合結(jié)構(gòu)。

本部分討論 k 匿名的選擇，發(fā)布匿名數(shù)據(jù)的一些實(shí)際問(wèn)題，準(zhǔn)標(biāo)識(shí)符，實(shí)現(xiàn)期望的匿名的理想泛化量，以及如何有效地 k 匿名。

4.1.1 K 的正確選擇

在美國(guó)，健康保險(xiǎn)便利和責(zé)任法案為保護(hù)敏感的患者數(shù)據(jù)設(shè)定了標(biāo)準(zhǔn)，將20,000定義為 k 匿名性的 k 的標(biāo)準(zhǔn)值。而家庭教育權(quán)利和隱私法案為保護(hù)學(xué)生及其家庭的個(gè)人信息制定了標(biāo)準(zhǔn)。建議 k 的值為5或10，以防止披露。這顯示了在選擇 k 時(shí)的不同。

K 的選擇是根據(jù)這些管理授權(quán)對(duì)應(yīng)用程序進(jìn)行預(yù)定義的。然而，對(duì)于沒(méi)有監(jiān)管要求的應(yīng)用程序，選擇 k 來(lái)提供正確的隱私級(jí)別與效用權(quán)衡是一個(gè)挑戰(zhàn)。選擇 k 的一種方法是在一定范圍內(nèi)改變 k 的值，并確定數(shù)據(jù)集的廣義信息損失(效用度量)的變化。因此，可接受的廣義信息損失對(duì)應(yīng)的 k 值是合適的選擇。

盡管如此，找到 k 的最佳值仍然是一個(gè)懸而未決的問(wèn)題，目前的研究包括了概率模型和多目標(biāo)優(yōu)化模型等。近似算法可以實(shí)現(xiàn) k 匿名，但不能擴(kuò)展。另一方面，概率方法 k 匿名技術(shù)使用動(dòng)態(tài)規(guī)劃提供了一個(gè)時(shí)間最優(yōu)的 k 匿名算法。啟發(fā)式方法也可以產(chǎn)生有效的結(jié)果。目前的重點(diǎn)是人工智能驅(qū)動(dòng)的分析，但是，隱私和數(shù)據(jù)保護(hù)的定義已經(jīng)發(fā)生了明顯的變化，這表明需要提供更強(qiáng)大的保障，并為不同的應(yīng)用提供更廣泛的范圍。

4.1.2 準(zhǔn)標(biāo)識(shí)符的識(shí)別

準(zhǔn)標(biāo)識(shí)符的識(shí)別是一個(gè)主要問(wèn)題，因?yàn)樗苯佑绊?k 匿名技術(shù)的有效性。如果可以標(biāo)識(shí)可變屬性集的記錄數(shù)，這些屬性集可能是潛在的準(zhǔn)標(biāo)識(shí)符。隨著信息的增加，大量的記錄可能變得可識(shí)別。

隨著數(shù)據(jù)維數(shù)的增加，準(zhǔn)標(biāo)識(shí)符的選擇會(huì)變得更加復(fù)雜。這個(gè)問(wèn)題也變得更具挑戰(zhàn)性，因?yàn)槠渌斯嫉念~外數(shù)據(jù)存在不確定性。在這種情況下，一些已發(fā)布的屬性必須被視為準(zhǔn)標(biāo)識(shí)符。

4.1.3 實(shí)現(xiàn)所需匿名化的理想泛化量

理想的泛化量取決于公開(kāi)可用的信息。一些組織在公共領(lǐng)域公布信息，以實(shí)現(xiàn)更大的透明度，并使人們更容易獲得其數(shù)據(jù)。這些組織可能無(wú)意中發(fā)布了不應(yīng)該提供的信息。這為私有聚合提供了濫用此類信息的機(jī)會(huì)。因此，發(fā)布個(gè)人數(shù)據(jù)的組織必須采用極端的一般化方法，以防止通過(guò)鏈接攻擊重新識(shí)別身份。

鏈接攻擊表明，僅僅刪除標(biāo)識(shí)符并不能保護(hù)隱私。因此，k 匿名已經(jīng)成為一種突出的隱私保護(hù)技術(shù)。在這里，泛化是在真實(shí)信息上執(zhí)行的，這使得它比其他策略更容易被接受。此外，k 匿名及其變體可以限制鏈接、同質(zhì)性和背景攻擊。從工業(yè)的角度來(lái)看，k 匿名已經(jīng)獲得了更廣泛的知名度。

匿名技術(shù)確實(shí)有一些缺點(diǎn)，比如信息丟失。此外，泛化需要為數(shù)據(jù)集中的每個(gè)準(zhǔn)標(biāo)識(shí)符建立一個(gè)分類樹(shù)，這需要領(lǐng)域?qū)＜业母深A(yù)，即使分類是自動(dòng)生成的。此外，根據(jù)用例的不同，每個(gè)屬性的泛化級(jí)別可能會(huì)有所不同。

隨著計(jì)算能力的提高和數(shù)字?jǐn)?shù)據(jù)集的可用性，個(gè)人數(shù)據(jù)被重新識(shí)別的風(fēng)險(xiǎn)仍然存在。

4.2 差分隱私技術(shù)

假設(shè)在共享數(shù)據(jù)之前，注入一些噪聲，或者創(chuàng)建一個(gè)具有與原始數(shù)據(jù)集相同的統(tǒng)計(jì)屬性的合成數(shù)據(jù)集。那么，很有可能使隱私可以得到保護(hù)。差分隱私技術(shù)就是通過(guò)注入精心校準(zhǔn)的隨機(jī)噪音來(lái)使數(shù)據(jù)不真實(shí)，從而保護(hù)個(gè)人隱私的技術(shù)。差分隱私技術(shù)的獨(dú)創(chuàng)性在于允許從數(shù)據(jù)集中抽取有意義的分析，同時(shí)保護(hù)個(gè)人隱私。然而，其局限在于，沒(méi)有直接訪問(wèn)數(shù)據(jù)集就很難學(xué)習(xí)關(guān)于個(gè)人的任何東西。

在典型的差分隱私技術(shù)中，數(shù)據(jù)管理員被認(rèn)為是值得信賴的，并充當(dāng)中心主體，他持有組成數(shù)據(jù)集的個(gè)人數(shù)據(jù)。使用可信的管理員，差分隱私技術(shù)可以以兩種模式之一進(jìn)行操作：在線或交互模式或離線非交互模式。在在線交互模式中，數(shù)據(jù)分析師自適應(yīng)地查詢數(shù)據(jù)集，查詢是應(yīng)用于數(shù)據(jù)集的函數(shù)，每個(gè)查詢都會(huì)產(chǎn)生無(wú)關(guān)的響應(yīng)，從而保護(hù)了隱私。在離線非交互模式下，管理員使用與原始數(shù)據(jù)集具有相同統(tǒng)計(jì)特性的差分隱私機(jī)制生成合成數(shù)據(jù)庫(kù)。發(fā)布數(shù)據(jù)后，v不再扮演任何角色，原始數(shù)據(jù)甚至可能被銷毀。因此，使用合成數(shù)據(jù)庫(kù)，重新識(shí)別個(gè)體變得困難。此外，這樣的合成數(shù)據(jù)可以共享用于執(zhí)行質(zhì)量分析。

4.2.1 差分隱私技術(shù)的原理

考慮一個(gè)算法，該算法分析數(shù)據(jù)集并計(jì)算統(tǒng)計(jì)屬性，如均值、方差、中值和模式。如果通過(guò)查看輸出，人們無(wú)法判斷原始數(shù)據(jù)集中是否包含任何個(gè)人數(shù)據(jù)，那么這種算法被稱為差異私有算法。換句話說(shuō)，差分私有算法的保證是它的行為幾乎不會(huì)隨著數(shù)據(jù)集中個(gè)體的缺失或存在而改變。最值得注意的是，這種保證適用于任何個(gè)體和任何數(shù)據(jù)集。因此，不管個(gè)人的細(xì)節(jié)有多么獨(dú)特，也不管數(shù)據(jù)集中其他任何人的細(xì)節(jié)如何，差分隱私技術(shù)的保證仍然有效。

在數(shù)學(xué)上，差分隱私算法可以定義如下: 如果對(duì)于所有數(shù)據(jù)集，D1和 D2最多在一個(gè)元素上不同，并且所有的 S是Range (M) 的子集，在隨機(jī)函數(shù) M 得到了 ε 的差分隱私。因此:

Pr[M(D1) ε S] ≤ exp(ε) x Pr[M(D2) ε S]

數(shù)據(jù)集 D1中管理員輸出的 M (D1)分布與數(shù)據(jù)集 D2中的 M (D2)幾乎相同，數(shù)據(jù)集 D1和 D2只有一個(gè)個(gè)體的記錄不同，而 M 是保證 ε微分隱私的隨機(jī)化算法: ε 決定了兩個(gè)數(shù)據(jù)集 D1和 D2的不可區(qū)分性，即對(duì)兩個(gè)數(shù)據(jù)庫(kù)集的查詢響應(yīng)偏差由 ε 決定。這就提供了一個(gè)保證，即關(guān)于數(shù)據(jù)集中參與者的個(gè)人信息不會(huì)被泄露。差分隱私技術(shù)避免了關(guān)系資格數(shù)據(jù)，同時(shí)也使其他信息披露風(fēng)險(xiǎn)難以發(fā)生。

差分隱私技術(shù)的關(guān)鍵特征在于，它將隱私定義為使用參數(shù) ε 的可量化度量，而不是二元邏輯，例如個(gè)人數(shù)據(jù)是否泄露。本質(zhì)上，ε 決定了計(jì)算中增加了多少噪聲，因此它可以被視為一個(gè)平衡私密性和實(shí)用性的調(diào)諧旋鈕?？梢詫?duì)每個(gè)不同的私有分析進(jìn)行調(diào)優(yōu)，以提供更多或更少的隱私。

4.2.2 差分隱私技術(shù)的實(shí)現(xiàn)

差分私有算法是在關(guān)鍵點(diǎn)增加噪聲的隨機(jī)算法。在具體實(shí)現(xiàn)上，拉普拉斯機(jī)制可以使聚合查詢(例如，count、 sum、 means 等)具有不同的私有性。這種方法使用以0為中心、以1/ε 為比例的拉普拉斯概率分布來(lái)對(duì)隨機(jī)噪聲進(jìn)行采樣，通過(guò)添加獲得的噪聲擾動(dòng)實(shí)際值會(huì)導(dǎo)致屏蔽響應(yīng)。

還是以醫(yī)院的場(chǎng)景為例，假設(shè)醫(yī)院保存了通過(guò)醫(yī)療應(yīng)用程序收集的癌癥患者的數(shù)據(jù)?，F(xiàn)在，如果某個(gè)醫(yī)生想知道小明是否是癌癥患者，通過(guò)精心設(shè)計(jì)多個(gè)查詢才可以。例如，如果使用 COUNT 查詢，結(jié)果是30，如果第二個(gè)不包括小明的統(tǒng)計(jì)查詢是29，那么可以得出小明是癌癥患者的結(jié)論。如果第二個(gè) COUNT 查詢結(jié)果是30，將得出相反的結(jié)論。

有許多相關(guān)算法的機(jī)制可以代替拉普拉斯機(jī)制，例如，指數(shù)機(jī)制、私有倍增權(quán)重算法或倍增權(quán)重指數(shù)算法等等。有了這樣的機(jī)制，基于差分隱私技術(shù)的軟件系統(tǒng)是可能實(shí)現(xiàn)的，但仍存在實(shí)際的挑戰(zhàn)。例如，如果相同的查詢總是接收相同的噪聲響應(yīng)，那么它需要查找歷史響應(yīng)的日志。由于答案保持不變，因此不會(huì)發(fā)生信息泄漏，但日志查找在空間和時(shí)間方面可能代價(jià)高昂。

4.2.3 差分隱私技術(shù)的局限

眾所周知，建立兩個(gè)查詢的等價(jià)性在計(jì)算上是困難的。因此，盡管與傳統(tǒng)的隱私保護(hù)方法相比，差分隱私技術(shù)有一些優(yōu)勢(shì)，但也存在一定的局限性。首先，在保護(hù)隱私的同時(shí)，確定理想的隱私損失參數(shù) ε 具有較高的效用仍然是一個(gè)挑戰(zhàn)。其次，差分隱私技術(shù)中的隱私保障僅適用于有限數(shù)量的查詢，這是數(shù)據(jù)集中表示的不同數(shù)據(jù)數(shù)量的函數(shù)。因此，設(shè)計(jì)能夠處理任意數(shù)量查詢的隱私保護(hù)機(jī)制同樣是一個(gè)挑戰(zhàn)。另外，差分隱私技術(shù)容易受到側(cè)信道攻擊，在這種攻擊中，對(duì)手可以通過(guò)監(jiān)視側(cè)信道來(lái)了解有關(guān)數(shù)據(jù)的事實(shí)。一個(gè)典型的例子是定時(shí)通道攻擊，如果一個(gè)人患有癌癥，查詢計(jì)算將花費(fèi)51μs，否則將花費(fèi)49μs，那么，僅僅通過(guò)觀察花費(fèi)的時(shí)間就可以知道一個(gè)人是否患有癌癥。最后，敏感數(shù)據(jù)被公開(kāi)仍然是可能的，例如，壞人可以在隱私數(shù)據(jù)集上構(gòu)建分類器，以預(yù)測(cè)敏感信息。

以上討論的前提是數(shù)據(jù)管理員是可信的， 如果數(shù)據(jù)管理員是不可信的，這就要求采用本地差分隱私技術(shù)。也就是說(shuō)，噪聲是局部注入的，在每個(gè)數(shù)據(jù)主體的個(gè)體層次上實(shí)現(xiàn)噪聲注入，這樣，隱私控制就留給了數(shù)據(jù)主體。

此外，通過(guò) GDPR等隱私法規(guī)，大型組織使用本地差分隱私技術(shù)來(lái)避免因?yàn)E用存儲(chǔ)敏感用戶數(shù)據(jù)而產(chǎn)生的責(zé)任。因此，基于信任假設(shè)，本地差分隱私技術(shù)更具吸引力。然而，使用本地差分隱私技術(shù)發(fā)布的統(tǒng)計(jì)信息效用要比使用標(biāo)準(zhǔn)差分隱私技術(shù)發(fā)布的效用差，因?yàn)閿_動(dòng)發(fā)生在每個(gè)個(gè)體的末端，導(dǎo)致了更大的噪聲附加。

4.2.4 差分隱私技術(shù)的應(yīng)用

差分隱私技術(shù)在許多應(yīng)用領(lǐng)域有著更廣泛的作用，包括物理網(wǎng)絡(luò)系統(tǒng)，如智能電網(wǎng)系統(tǒng)、醫(yī)療保健系統(tǒng)、物聯(lián)網(wǎng)、自主汽車系統(tǒng)等。在智能電網(wǎng)系統(tǒng)中，電力供應(yīng)商使用智能電表記錄和維護(hù)家庭能源消耗信息。這些信息可以揭示一個(gè)家庭的生活方式和其他細(xì)節(jié)，濫用可能侵犯消費(fèi)者的隱私。因此，有必要將隱私保護(hù)技術(shù)融入到這樣的系統(tǒng)中。同樣，對(duì)于醫(yī)療保健和醫(yī)療系統(tǒng)，物聯(lián)網(wǎng)設(shè)備收集的數(shù)據(jù)，如血壓、血糖水平，有時(shí)甚至是位置節(jié)，也需要以隱私保護(hù)的方式獲取。

在各種應(yīng)用服務(wù)中，微軟使用本地差分隱私技術(shù)在 Windows 的應(yīng)用程序中保護(hù)用戶隱私。蘋(píng)果同樣使用該技術(shù)在給定的時(shí)間段內(nèi)保護(hù)用戶活動(dòng)的隱私，同時(shí)仍能獲得有助于提高 QuickType 等功能的智能性和可用性的數(shù)據(jù)。谷歌的Chrome 中，以一種隱私敏感的方式獲取關(guān)于軟件如何劫持用戶設(shè)置的數(shù)據(jù)。另外，IBM 和 Google 都提供了用于以差分隱私技術(shù)感知的方式執(zhí)行機(jī)器學(xué)習(xí)任務(wù)的庫(kù)。

有了差分隱私技術(shù)，隱私數(shù)據(jù)是否得到了足夠的保護(hù)呢？這取決于 ε。當(dāng) ε ≤1時(shí)，差分隱私技術(shù)輸出的數(shù)據(jù)效用可能較差。解決這個(gè)問(wèn)題的一種方法是使用一個(gè)非常大的 ε 值來(lái)減輕效用問(wèn)題。據(jù)報(bào)道，蘋(píng)果在 MacOS 中使用 ε = 6，甚至在 iOS 10 beta 版本中使用了 ε = 43，而在谷歌在chrome中的 ε 為9。這表明差分隱私技術(shù)在實(shí)踐中的適用性仍然是一個(gè)挑戰(zhàn)，因?yàn)?ε=9這樣大的值使隱私保障大大降低了。

對(duì)數(shù)據(jù)隱私的需求已經(jīng)從數(shù)據(jù)發(fā)布的標(biāo)準(zhǔn)用例展開(kāi)到隱私驅(qū)動(dòng)的分析。在這里，DP 獲得了重大關(guān)注，因?yàn)樗峁┝藬?shù)學(xué)保證。然而，在將 DP 的理論映射到實(shí)踐中還存在一些挑戰(zhàn)。

4.2.5 實(shí)踐中的挑戰(zhàn)

理想的差分隱私技術(shù)應(yīng)該能夠減輕公開(kāi)敏感數(shù)據(jù)的威脅和風(fēng)險(xiǎn)，同時(shí)保持?jǐn)?shù)據(jù)高實(shí)用性。對(duì)隱私的要求總是取決于具體的場(chǎng)景，當(dāng)數(shù)據(jù)控制器是可信實(shí)體時(shí)，可以使用標(biāo)準(zhǔn)差分隱私技術(shù); 如果數(shù)據(jù)控制器是不可信的，則使用本地差分隱私技術(shù)。在這兩種情況下，不同的機(jī)制都能防止惡意數(shù)據(jù)分析人員泄露敏感信息。因此，根據(jù)用例及其對(duì)隱私和應(yīng)用程序的要求，可以選擇合適的差分隱私技術(shù)設(shè)置。

沒(méi)有一種通用機(jī)制對(duì)所有用例都是有效的。拉普拉斯機(jī)制只能用于數(shù)字查詢，而指數(shù)機(jī)制可以同時(shí)處理查詢中的數(shù)字和分類數(shù)據(jù)。因此，機(jī)制的適用性會(huì)根據(jù)用例和數(shù)據(jù)類型而變化。也就是說(shuō)，許多差分隱私算法只適用于特定的用例。

ε 的值可以用來(lái)確定隱私級(jí)別。ε 值越小，隱私性越好，但結(jié)果的準(zhǔn)確性可能受到影響。從隱私角度來(lái)看，ε 大于6可能并不好。雖然這確實(shí)是一個(gè)很好的目標(biāo)，但是考慮到用例的細(xì)微差別，這通常是不可能實(shí)現(xiàn)的。此外，ε 的選擇可能因應(yīng)用程序而異，這取決于在該場(chǎng)景中對(duì)隱私的需求。一般來(lái)說(shuō)，像“ ε 的值是多少才合適”就像“多少隱私才夠”這樣的問(wèn)題一樣，沒(méi)有答案。

隱私數(shù)據(jù)損失是累積增加的，對(duì)于每個(gè)新的查詢，隨著敏感數(shù)據(jù)的附加信息被釋放，隱私保護(hù)會(huì)減少。這意味著經(jīng)過(guò)一定數(shù)量的查詢之后，應(yīng)用程序可能提供不了隱私保護(hù)了。理想情況下，對(duì)于強(qiáng)大的隱私保障，隱私損失應(yīng)該很小。因此，為了減輕日益增長(zhǎng)的隱私損失，可以強(qiáng)制執(zhí)行由隱私預(yù)算表示的最大隱私損失。每個(gè)查詢都可以被視為隱私??，這會(huì)導(dǎo)致隱私損失的增加。如果查詢的數(shù)量超過(guò)了隱私預(yù)算的閾值，那么可以停止對(duì)查詢的響應(yīng)，從而停止了差分隱私的機(jī)制。

因此，出于隱私和實(shí)用性方面的考慮，差分隱私技術(shù)可能不適合長(zhǎng)時(shí)間運(yùn)行的系統(tǒng)。

4.3 新興的隱私保護(hù)技術(shù)

許多國(guó)際組織把保護(hù)隱私作為一項(xiàng)基本要求，規(guī)定了一些原則，如收集限制、數(shù)據(jù)質(zhì)量、用途限制、使用限制、安全保障、公開(kāi)性、個(gè)人參與和問(wèn)責(zé)制。這些原則有助于管理系統(tǒng)生命周期中的隱私需求。

隨著系統(tǒng)復(fù)雜性的增加，存儲(chǔ)單元和計(jì)算單元可能不集中，減少隱私披露風(fēng)險(xiǎn)是具有挑戰(zhàn)性的。這樣的系統(tǒng)，例如基于物聯(lián)網(wǎng)傳感器、可穿戴計(jì)算設(shè)備、移動(dòng)計(jì)算和智能儀表的系統(tǒng)，需要更強(qiáng)大的隱私技術(shù)和協(xié)議。此類隱私技術(shù)應(yīng)考慮部署體系結(jié)構(gòu)、計(jì)算系統(tǒng)中各個(gè)節(jié)點(diǎn)的可用性、敏感數(shù)據(jù)流和威脅模型。

4.3.1 分布式環(huán)境的隱私保護(hù)

再次以醫(yī)院為例，為了在保護(hù)隱私的同時(shí)建立疾病預(yù)測(cè)的全局模型，需要對(duì)每個(gè)用戶移動(dòng)設(shè)備上的本地?cái)?shù)據(jù)進(jìn)行本地模型的訓(xùn)練。所學(xué)習(xí)的模型參數(shù)由每個(gè)用戶設(shè)備發(fā)送到云服務(wù)器，在云服務(wù)器上執(zhí)行聚合以構(gòu)建全局模型。這個(gè)學(xué)到的全局模型被推送到每個(gè)用戶的移動(dòng)設(shè)備上進(jìn)行預(yù)測(cè)。這就是簡(jiǎn)單的聯(lián)邦學(xué)習(xí)架構(gòu)。

物聯(lián)網(wǎng)的數(shù)據(jù)分析進(jìn)一步擴(kuò)展了這些分布式體系結(jié)構(gòu)。例如，在邊緣計(jì)算中，繁重的計(jì)算任務(wù)被轉(zhuǎn)移到邊緣節(jié)點(diǎn)，而物聯(lián)網(wǎng)傳感器等客戶端設(shè)備被分配一個(gè)輕量級(jí)任務(wù)，其輸出被用于在邊緣節(jié)點(diǎn)執(zhí)行重量級(jí)任務(wù)。本地差分隱私混淆處理框架可能會(huì)確保數(shù)據(jù)隱私和邊緣計(jì)算的數(shù)據(jù)實(shí)用性。

本地差分隱私混淆處理框架的基本方法仍然是增加噪聲以防止私人信息泄露。然而，加入噪聲可能會(huì)降低數(shù)據(jù)的效用，而特征蒸餾模型或許可以限制了個(gè)人數(shù)據(jù)的收集，同時(shí)仍然使數(shù)據(jù)效用的最大化。這一框架的基礎(chǔ)組件涉及使用數(shù)據(jù)最小化學(xué)習(xí)數(shù)據(jù)的特征，并使用本地差分隱私技術(shù)擾亂這些已識(shí)別的特征以保護(hù)隱私。此外，使用不同的哈希函數(shù)將這些特征匿名化為 k 位字符串，以便轉(zhuǎn)換生成唯一的字符串。最后，數(shù)據(jù)傳輸?shù)竭吘壏?wù)器，在邊緣服務(wù)器上使用哈希函數(shù)進(jìn)行特征重建和分布估計(jì)，從而防止敏感屬性被暴露。

4.3.2 數(shù)據(jù)隱私的加密技術(shù)

除了聯(lián)邦學(xué)習(xí)類型的分布式架構(gòu)，全同態(tài)加密和多方安全計(jì)算也同樣是可用于隱私數(shù)據(jù)保護(hù)的加密技術(shù)。

全同態(tài)加密是一種加密方案，它使分析函數(shù)能夠直接在加密數(shù)據(jù)上運(yùn)行，同時(shí)產(chǎn)生與在明文上執(zhí)行的函數(shù)相同的加密結(jié)果。盡管從安全和隱私的角度來(lái)看這是令人興奮的，但是在目前的技術(shù)水平下，完全同態(tài)加密的計(jì)算速度比同等的明文計(jì)算慢了若干數(shù)量級(jí)。即便如此，也已經(jīng)是一個(gè)很大的改善。鑒于 FHE 對(duì)云計(jì)算的潛在好處，完全同態(tài)加密技術(shù)的標(biāo)準(zhǔn)化正在進(jìn)行中。

多方安全計(jì)算允許多方對(duì)其隱私數(shù)據(jù)進(jìn)行計(jì)算，以評(píng)估共同感興趣的特征， 高度適用于機(jī)器學(xué)習(xí)，因?yàn)樗试S公司提供其模型，對(duì)客戶的隱私數(shù)據(jù)進(jìn)行推斷，同時(shí)確保最大限度的隱私。多方安全計(jì)算中許多涉及了大量的消息傳遞開(kāi)銷，開(kāi)發(fā)廉價(jià)、高效和有效的多方安全計(jì)算技術(shù)的研究正在進(jìn)行中。

人們也在試圖結(jié)合這兩種技術(shù)，嘗試提出具有可接受的時(shí)間和通信復(fù)雜度的混合方案。

5. 隱私計(jì)算

一般地， 對(duì)隱私計(jì)算有不同的理解。一種是隱私計(jì)算是隱私保護(hù)的一部分，為了實(shí)現(xiàn)隱私保護(hù)而采用的技術(shù)。另一種是對(duì)隱私保護(hù)的數(shù)據(jù)進(jìn)行計(jì)算，側(cè)重在隱私數(shù)據(jù)應(yīng)用的層面。更一般的觀點(diǎn)認(rèn)為隱私計(jì)算是以上兩種的融合，是指在保護(hù)數(shù)據(jù)本身不對(duì)外泄露的前提下實(shí)現(xiàn)數(shù)據(jù)分析計(jì)算的技術(shù)集合，在充分保護(hù)數(shù)據(jù)和隱私安全的前提下，實(shí)現(xiàn)數(shù)據(jù)價(jià)值的轉(zhuǎn)化和釋放。簡(jiǎn)單來(lái)說(shuō)，就是既要發(fā)揮數(shù)據(jù)價(jià)值，又要保護(hù)數(shù)據(jù)隱私的技術(shù)。

5.1 隱私計(jì)算的發(fā)展

隱私計(jì)算的發(fā)展歷程如下圖所示：

5.2 隱私計(jì)算的概念界定

2016年，中國(guó)科學(xué)院信息工程研究所研究員李鳳華等對(duì)隱私計(jì)算在概念上進(jìn)行了界定：

隱私計(jì)算是面向隱私信息全生命周期保護(hù)的計(jì)算理論和方法，具體是指在處理視頻、音頻、圖像、圖形、文字、數(shù)字、泛在網(wǎng)絡(luò)行為信息流等信息時(shí)，對(duì)所涉及的隱私信息進(jìn)行描述、度量、評(píng)價(jià)和融合等操作，形成一套符號(hào)化、公式化且具有量化評(píng)價(jià)標(biāo)準(zhǔn)的隱私計(jì)算理論、算法及應(yīng)用技術(shù)，支持多系統(tǒng)融合的隱私信息保護(hù)。

隱私計(jì)算涵蓋信息所有者、搜集者、發(fā)布者和使用者在信息采集、存儲(chǔ)、處理、發(fā)布（含交換）、銷毀等全生命周期中的所有計(jì)算操作，是隱私信息的所有權(quán)、管理權(quán)和使用權(quán)分離時(shí)隱私描述、度量、保護(hù)、效果評(píng)估、延伸控制、隱私泄露收益損失比、隱私分析復(fù)雜性等方面的可計(jì)算模型與公理化系統(tǒng)。

同時(shí)，中國(guó)信通院根據(jù)數(shù)據(jù)的生命周期，將隱私計(jì)算技術(shù)分為數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)傳輸、數(shù)據(jù)計(jì)算過(guò)程、數(shù)據(jù)計(jì)算結(jié)果4個(gè)方面，每個(gè)方面都涉及不同的技術(shù)。

5.3  隱私計(jì)算的技術(shù)參考架構(gòu)

在2021年， 在騰訊隱私計(jì)算白皮書(shū)中給出了隱私計(jì)算的技術(shù)架構(gòu)參考：

5.4 隱私計(jì)算的技術(shù)路徑

隱私計(jì)算技術(shù)和方案的種類較多，為了便于理解和分類，業(yè)界通常將上述技術(shù)分為三大路徑：以安全多方計(jì)算為代表的密碼學(xué)路徑、以可信任執(zhí)行環(huán)境為代表的硬件路徑和以聯(lián)邦學(xué)習(xí)為代表的人工智能路徑。

多方安全計(jì)算是基于密碼學(xué)的算法協(xié)議來(lái)實(shí)現(xiàn)隱私計(jì)算，是多種密碼學(xué)基礎(chǔ)工具的綜合應(yīng)用，凡可用于實(shí)現(xiàn)多方安全計(jì)算的密碼學(xué)算法都可以構(gòu)成多方安全協(xié)議。除秘密共享、不經(jīng)意傳輸、混淆電路、差分隱私等密碼學(xué)經(jīng)典計(jì)算協(xié)議外，同態(tài)加密、零知識(shí)證明等密碼學(xué)算法都可以構(gòu)成多方安全計(jì)算協(xié)議。為解決諸如如聯(lián)合統(tǒng)計(jì)、聯(lián)合查詢、聯(lián)合建模、聯(lián)合預(yù)警等特定問(wèn)題，不同的技術(shù)人員或組織有時(shí)會(huì)采用不同的算法設(shè)計(jì)多方安全協(xié)議，但性能和技術(shù)優(yōu)劣有所差異。多方安全計(jì)算可與可信執(zhí)行環(huán)境等硬件技術(shù)結(jié)合進(jìn)一步強(qiáng)化安全性。

可信執(zhí)行環(huán)境通過(guò)軟硬件方法在中央處理器中構(gòu)建一個(gè)安全區(qū)域，保證其內(nèi)部加載的程序和數(shù)據(jù)在機(jī)密性和完整性上得到保護(hù)。可信的中央處理器一般是指可信執(zhí)行控制單元已被預(yù)置集成的商用CPU計(jì)算芯片，無(wú)法后置，因此，只有新研發(fā)的部分芯片支持TEE。目前主流的TEE技術(shù)以X86指令集架構(gòu)的Inter SGX和ARM指令集架構(gòu)的TrustZone為代表，國(guó)產(chǎn)芯片廠商起步稍晚，處理性能略差。

聯(lián)邦學(xué)習(xí)是一個(gè)機(jī)器學(xué)習(xí)框架，能有效幫助多個(gè)機(jī)構(gòu)在滿足用戶隱私保護(hù)、數(shù)據(jù)安全和政府法規(guī)的要求下，進(jìn)行數(shù)據(jù)使用和機(jī)器學(xué)習(xí)建模，主要解決的是多機(jī)構(gòu)之間數(shù)據(jù)孤島的問(wèn)題。具體地，可以分為橫向聯(lián)邦、縱向聯(lián)邦和遷移學(xué)習(xí)。橫向聯(lián)邦的核心是增加樣本量，適用于維度類似情形，優(yōu)點(diǎn)是容易實(shí)現(xiàn)，問(wèn)題是存在數(shù)據(jù)異構(gòu)的情況?？v向聯(lián)邦的核心是增加數(shù)據(jù)維度，適用于人群重疊但維度不同的情形。優(yōu)點(diǎn)是提升模型效果較為明顯，問(wèn)題是實(shí)現(xiàn)困難且目標(biāo)變量?jī)H存在一家機(jī)構(gòu)，不容易形成合作。遷移學(xué)習(xí)適用于場(chǎng)景類似但是一個(gè)擁有數(shù)據(jù)，一個(gè)沒(méi)有數(shù)據(jù)的場(chǎng)景。遷移的方式使用的類似縱向聯(lián)邦學(xué)習(xí)，可以實(shí)現(xiàn)從無(wú)法建立模型到完成模型搭建的過(guò)程。問(wèn)題是實(shí)現(xiàn)較為困難，模型效果一般，使用范圍較小。

下圖是Gartner 在2021年發(fā)布的隱私計(jì)算技術(shù)成熟度曲線：

信息保護(hù)領(lǐng)域，沒(méi)有絕對(duì)的安全，只有相對(duì)的安全。雖然當(dāng)前的隱私計(jì)算技術(shù)并未被證明“絕對(duì)的安全”，但它已經(jīng)在現(xiàn)有做法基礎(chǔ)上向前邁進(jìn)了一大步。在個(gè)人信息保護(hù)法倒逼數(shù)據(jù)安全的大環(huán)境下，隱私計(jì)算為個(gè)人信息保護(hù)提供了更為可靠的技術(shù)方案，也是目前諸多方案中最好的解決方案。

6.小結(jié)

隨著世界信息的數(shù)字化，個(gè)人信息的隱私已經(jīng)成為個(gè)人和組織關(guān)注的重要問(wèn)題。組織理解并解決任何涉及數(shù)據(jù)的活動(dòng)所附帶的隱私問(wèn)題是至關(guān)重要的。根據(jù)場(chǎng)景的不同，各種隱私保護(hù)技術(shù)有著不同的優(yōu)點(diǎn)和缺點(diǎn)?！皼](méi)有銀彈”，不存在保障隱私的通用方法，隱私計(jì)算可以在很大程度上避免隱私被侵犯所造成的潛在損害。