|
一、簡(jiǎn)介 人工智能（AI）的快速進(jìn)步和發(fā)展引發(fā)了對(duì)其兩用應(yīng)用和安全風(fēng)險(xiǎn)的絕望猜測(cè)。從自動(dòng)武器系統(tǒng)（AWS）到面部識(shí)別技術(shù)再到?jīng)Q策 算法，人工智能的每一個(gè)新興應(yīng)用都會(huì)帶來(lái)好的和壞的。正是人工智能技術(shù)的這種雙重性質(zhì)不僅給各國(guó)的個(gè)人和實(shí)體帶來(lái)了巨大的安全風(fēng)險(xiǎn)：政府，行業(yè)，組織和學(xué)術(shù)界（NGIOA），還有人類的未來(lái)。 現(xiàn)實(shí)情況是，任何新的人工智能創(chuàng)新都可能用于有益和有害的目的：任何可能提供重要經(jīng)濟(jì)應(yīng)用的單一算法也可能導(dǎo)致以難以理解的規(guī)模生產(chǎn)前所未有的大規(guī)模殺傷性武器。因此，對(duì)基于人工智能的自動(dòng)化的擔(dān)憂正在增加。 隨著機(jī)器學(xué)習(xí)、計(jì)算能力、無(wú)邊界投資和數(shù)據(jù)可用性的進(jìn)步，AI具有潛在的通用應(yīng)用程序，這一事實(shí)使所涉及的安全風(fēng)險(xiǎn)呈指數(shù)級(jí)復(fù)雜化。此外，由于AI的整合對(duì)于人眼是不可見的，因此認(rèn)知任何事物和所有事物的能力從根本上改變了安全性。AI的自動(dòng)化和智能化帶來(lái)了希望以及潛在的破壞。 二、計(jì)算能力的普遍化 計(jì)算技術(shù)的發(fā)展造成技術(shù)發(fā)展、知識(shí)、信息和智能的普遍化。數(shù)據(jù)分析和處理技術(shù)的快速發(fā)展將網(wǎng)絡(luò)、電子、量子和自治武器與核武器、生物武器和納米武器一起定位在能夠?qū)θ祟愒斐蔀?zāi)難性傷害的精英武器俱樂(lè)部中。 這是因?yàn)檫B接的計(jì)算機(jī)、網(wǎng)絡(luò)和網(wǎng)絡(luò)空間已經(jīng)成為NGIOA所有數(shù)字流程的重要組成部分。由于計(jì)算機(jī)代碼和連接的計(jì)算機(jī)已經(jīng)將網(wǎng)絡(luò)空間連接到地球空間和太空，所以現(xiàn)在一切都被控制或通過(guò)網(wǎng)絡(luò)空間。 由于人工智能有可能被整合到網(wǎng)絡(luò)空間、地球空間和空間（CGS）中的幾乎所有產(chǎn)品和服務(wù)中，以使其智能化，這種不斷發(fā)展的認(rèn)知能力從根本上改變了CGS中人類的安全格局。 現(xiàn)在：技術(shù)、計(jì)算能力、編程語(yǔ)言、計(jì)算機(jī)代碼、加密、信息、大數(shù)據(jù)、算法、投資，它們都有雙重用途。 當(dāng)任何人和每個(gè)人都可以訪問(wèn)數(shù)字?jǐn)?shù)據(jù)，必要的機(jī)器學(xué)習(xí)技術(shù)和計(jì)算能力來(lái)為自己的議程創(chuàng)建AI時(shí)，很難管理出現(xiàn)的復(fù)雜安全挑戰(zhàn)。不僅潛在的大規(guī)模殺傷性武器數(shù)量在增加，攻擊面和敵人也在增加。人工智能雙重威脅所帶來(lái)的安全風(fēng)險(xiǎn)正在變得嚴(yán)峻。這給我們帶來(lái)了一個(gè)重要的問(wèn)題：人類的生存、安全和可持續(xù)性是否應(yīng)留給個(gè)人的智慧，他們可能會(huì)或可能不會(huì)被告知人工智能的潛在雙重用途性質(zhì)？也許現(xiàn)在是開發(fā)AI框架的時(shí)候了。 三、數(shù)據(jù)的普遍化 隨著網(wǎng)絡(luò)空間中的數(shù)字?jǐn)?shù)據(jù)變得有爭(zhēng)議，大數(shù)據(jù)的普遍引入了全新的世界秩序。這個(gè)新的世界秩序?yàn)槲覀儙?lái)了一個(gè)新的現(xiàn)實(shí) - 任何地方的任何人都可以訪問(wèn)數(shù)字?jǐn)?shù)據(jù)并將給人類帶來(lái)好與壞。今天，任何有欲望并知道如何訪問(wèn)大數(shù)據(jù)并擁有數(shù)據(jù)科學(xué)能力的個(gè)人或?qū)嶓w都可以將其用于他們想要實(shí)現(xiàn)的任何情報(bào)，自動(dòng)化，監(jiān)視和偵察，無(wú)論他們的教育，背景，地位或意圖如何。 雖然大數(shù)據(jù)的普遍化帶來(lái)了普遍的可訪問(wèn)性，并為NGIOA的個(gè)人和實(shí)體提供了強(qiáng)大的支持，但它也給我們帶來(lái)了許多重大的安全風(fēng)險(xiǎn)。任何有或沒(méi)有接受過(guò)正規(guī)培訓(xùn)的人，都可能無(wú)意甚至故意地對(duì)社區(qū)，種族，種族，宗教，民族和人類造成混亂，災(zāi)難和存在風(fēng)險(xiǎn)。 由于數(shù)據(jù)是建立大多數(shù)人工智能系統(tǒng)所必需的，數(shù)字?jǐn)?shù)據(jù)的民主化是否應(yīng)該得到控制，沒(méi)有任何責(zé)任和責(zé)任？ 四、人工智能 人工智能，機(jī)器人，無(wú)人機(jī)等方面的最新發(fā)展為人類帶來(lái)了巨大的潛力，但是大部分相同的進(jìn)步都帶來(lái)了通過(guò)偏見或致命算法進(jìn)行無(wú)節(jié)制的情報(bào)，監(jiān)視和偵察的危險(xiǎn)，而這些算法都沒(méi)有人做好準(zhǔn)備。 這些偏見和致命算法（基本上是算法，數(shù)據(jù)，計(jì)算能力和議程的功能）所產(chǎn)生的復(fù)雜安全風(fēng)險(xiǎn)因參與開發(fā)或部署人工智能的決策者通常不關(guān)注基本問(wèn)題的現(xiàn)實(shí)而更加復(fù)雜。例如，“安全性”。因此，建立“人工智能安全”發(fā)展的可持續(xù)文化不僅需要使人工智能研究人員，投資者，用戶，監(jiān)管者和決策者意識(shí)到人工智能開發(fā)的雙重用途（無(wú)論算法的本質(zhì)），但也教育那些涉及甚至更多的算法開發(fā)，最終可能成為一個(gè)兩用的困境。 正如今天各國(guó)所見：
這提出了一個(gè)基本問(wèn)題：來(lái)自各國(guó)的任何人，任何個(gè)人或?qū)嶓w如何能夠獲得必要的數(shù)字?jǐn)?shù)據(jù)并探索為任何目的和議程創(chuàng)建人工智能的基礎(chǔ)科學(xué)，而不會(huì)產(chǎn)生任何問(wèn)責(zé)，監(jiān)督和后果？ 需要時(shí)，需要對(duì)這種人工智能的開發(fā)進(jìn)行審計(jì)，制圖，治理和防范。 今天的人工智能開發(fā)和景觀在許多方面引入了不確定性。因?yàn)锳I是軟件并且不僅建立在軍方使用的武器系統(tǒng)中，而且建立在NGIOA使用的每個(gè)智能應(yīng)用程序中，每個(gè)基于AI的應(yīng)用程序具有雙重用途的潛力是一個(gè)不容忽視的現(xiàn)實(shí)。 五、安全困境 在人類歷史的大部分時(shí)間里，安全的概念和方法主要圍繞著使用武力和地球空間的領(lǐng)土完整性。隨著安全的定義和含義在人工智能領(lǐng)域受到根本性的挑戰(zhàn)和改變，傳統(tǒng)安全是關(guān)于從地理邊界內(nèi)部或跨越地理邊界對(duì)地球空間各自國(guó)家的暴力的概念現(xiàn)在已經(jīng)過(guò)時(shí)，需要進(jìn)行評(píng)估和更新。 這個(gè)全新的人工智能世界的出現(xiàn)，或多或少地像今天的外星人領(lǐng)域，那里知之甚少，而且大部分是未知。這引發(fā)了恐慌、不確定性、競(jìng)爭(zhēng)和軍備競(jìng)賽，并引導(dǎo)我們走向一個(gè)沒(méi)有邊界或限制的新戰(zhàn)場(chǎng)，這個(gè)戰(zhàn)場(chǎng)可能涉及也可能不涉及人類，也無(wú)法理解和控制。 不斷發(fā)展的人工智能威脅和安全的挑戰(zhàn)和復(fù)雜性跨越了空間、意識(shí)形態(tài)和政治的障礙，要求各國(guó)所有利益相關(guān)者進(jìn)行建設(shè)性的協(xié)作。集體NGIOA頭腦風(fēng)暴是必要的，能夠客觀地評(píng)估什么是威脅以及如何保護(hù)它！ 雖然關(guān)于人工智能的結(jié)構(gòu)、作用和雙重用途的辯論將在未來(lái)幾年繼續(xù)進(jìn)行，但任何重新定義人工智能安全的嘗試都需要從識(shí)別、理解、納入和擴(kuò)大人工智能安全威脅的定義和性質(zhì)開始。雖然本文的重點(diǎn)是人工智能，但許多其他技術(shù)需要針對(duì)其雙重用途進(jìn)行評(píng)估?，F(xiàn)在是時(shí)候開始討論新興技術(shù)的雙重用途了。 |
|
|
