“人工智能將是人類最重要的成就，但可惜可能是最后一個”——Stephen Hawking

深入了解一個事物的物理學原理，例如材料的原子結構，將有機會更加有效地應用概念，從而創(chuàng)造出新的設備。為此，我們需要新的技術，而人工智能就是其中之一。

人工智能越來越多地出現(xiàn)在我們的認知中，不僅如此，還有機器學習和深度學習，而且這二者有時還會被混為一談。事實上，“人工智能（artificial intelligence , AI）”這個詞最早出現(xiàn)于1950年代，它包含所有能夠執(zhí)行人類智力相關任務的計算機。機器學習只是實現(xiàn)人工智能的一種方式，而深度學習則是與機器學習相關的眾多方法之一。

人工智能涉及所有與人類智力有關，但由計算機執(zhí)行的操作。它包括規(guī)劃、語言理解、物體和聲音識別、學習和解決問題。而人工智能與物聯(lián)網(wǎng)（IoT）之間的關系就好比人腦和人體之間的關系。通過視覺和觸覺等各種感官輸入，我們的身體能夠識別特定的處境并執(zhí)行相應的動作。大腦根據(jù)感官輸入做出決定，并向身體發(fā)送信號以指揮其運動。物聯(lián)網(wǎng)也只不過是一組連接在一起的傳感器，只有借助人工智能，它才能理解所有獲取的數(shù)據(jù)，再通過控制系統(tǒng)或電路核心（即CPU）做出決策并操作執(zhí)行器，最終實現(xiàn)各種運動（如機器人手臂）的控制。

機器學習與深度學習

機器學習（ML）本質(zhì)上是實現(xiàn)人工智能的一種方法；屬于人工智能的一種子組（subgroup），專注于讓機器擁有接收一組數(shù)據(jù)并自行學習的能力，當它們獲得與正在處理的任務相關的更多信息時，可以不斷調(diào)整算法。人工智能和機器學習這兩個術語經(jīng)常被互換使用，尤其是在大數(shù)據(jù)領域。實際上，“機器學習”一詞是在“人工智能”之后創(chuàng)建的，它描述了“機器無需明確編程即可學習的能力”。因此，機器學習是一種“教育”算法的方法，這讓它可以從各種環(huán)境處境中學習。教育，或用一個更恰當?shù)脑~，訓練，是指使用大量數(shù)據(jù)和有效算法以便根據(jù)發(fā)生的狀況進行調(diào)整（和改進）。

機器學習利用神經(jīng)網(wǎng)絡方法和統(tǒng)計模型自動構建分析模型，來查找數(shù)據(jù)背后隱藏的信息。而神經(jīng)網(wǎng)絡的出現(xiàn)源于由互連單元（如神經(jīng)元）構成的人腦功能，這些互連單元通過響應外部輸入來處理信息，從而在不同單元之間傳遞相關信息。機器學習的一個典型實例就是人工視覺系統(tǒng)，即通過計算系統(tǒng)來識別圖像傳感器以數(shù)字方式獲取的對象。在這些情況下應用的算法必須能夠識別特定對象，區(qū)分它們是動物、物體還是人類，同時還能從處境中學習，也就是說，它必須存儲已經(jīng)完成的任務，并將之有效應用在下一次計算機視覺習得中，這主要應用于自動駕駛汽車系統(tǒng)。

深度學習是機器學習的一種方法，它從人腦的結構或各種神經(jīng)元的互連中汲取靈感。其他的機器學習方法還有歸納邏輯編程、聚類和貝葉斯網(wǎng)絡等。其中貝葉斯網(wǎng)絡基于由一組變量及其條件依賴組成的 DAG 模型（有向無環(huán)圖）。這種模型可以表達疾病和癥狀之間的概率關系，即以給定癥狀作為輸入，可以估計出給定疾病發(fā)生的概率。

深度學習采用了具有各種處理單元的大型神經(jīng)網(wǎng)絡模型；它利用計算的發(fā)展和訓練技術通過大量數(shù)據(jù)來學習復雜的模型。其常見應用包括成像和語音識別。由于涉及的層次很多，深度學習的概念有時被簡稱為“深度神經(jīng)網(wǎng)絡”。

近年來，機器學習和深度學習讓人工智能獲得了巨大的發(fā)展。這兩者都需要無數(shù)傳感器收集大量的數(shù)據(jù)，而且越來越多的傳感器還在繼續(xù)填充物聯(lián)網(wǎng)生態(tài)系統(tǒng)，這進一步改善了人工智能。改善物聯(lián)網(wǎng)生態(tài)系統(tǒng)將引領人工智能，繼而引領能夠成功實施的方法。從工業(yè)角度來看，人工智能可用于預測機器何時需要維護，或分析生產(chǎn)過程以實現(xiàn)大幅效率提升，從而節(jié)省數(shù)以百萬計的資金。而消費者利用人工智能將有機會以最佳方式管理他們的時間和條件。

人工智能是一把雙刃劍

電子技術的進步持續(xù)推動著人工智能和物聯(lián)網(wǎng)的共生；計算機處理和數(shù)據(jù)存儲的發(fā)展使得整合和分析更多數(shù)據(jù)成為可能；減少計算機芯片和改進制造技術帶來了成本更低但更強大的傳感器；而無線連接則以非常低廉的價格提供了大量數(shù)據(jù)，并允許所有這些傳感器將數(shù)據(jù)發(fā)送到云端；云的誕生讓這些數(shù)據(jù)的存儲幾乎不受限制，并提供了相當可觀的計算處理能力。所有這些進步都讓人工智能更接近其最終目的，即創(chuàng)造越來越多的智能機器，并融入我們的日常生活。

為了實現(xiàn)人工智能和機器學習的持續(xù)發(fā)展，驅(qū)動算法和相關決策的數(shù)據(jù)必須是高質(zhì)量的，才能被正確解釋。隨著連接到互聯(lián)網(wǎng)和相互連接物聯(lián)網(wǎng)設備的激增，收集、存儲和處理的數(shù)據(jù)量每天都在增加，這為大數(shù)據(jù)的安全和隱私保護帶來了新的挑戰(zhàn)。黑客帶來破壞性攻擊的風險也與日俱增。預防這些風險，需要所有組織機構嚴格控制數(shù)據(jù)的產(chǎn)生、存儲和通信，因為黑客有可能會控制重要系統(tǒng)并在任意時間內(nèi)為所欲為。

具體有哪些風險呢？

幾十年來，人工智能經(jīng)歷了它的繁盛時代，我們在語音識別和自動駕駛汽車等各個領域都能看到它的身影。但是，從史蒂芬·霍金（Stephen Hawking，已于幾年前去世），到伊隆·馬斯克（Elon Musk）和比爾·蓋茨（Bill Gates），這些杰出人物均對人工智能可能帶來的風險向我們發(fā)出警告，從“奇點”帶來的危險，或機器完全控制人類，到網(wǎng)絡攻擊。有多項研究都強調(diào)了機器學習被網(wǎng)絡犯罪分子利用而存在的隱患：對數(shù)字安全的威脅不僅涉及隱私泄露和數(shù)據(jù)盜竊，還涉及在這個完全連接的生態(tài)系統(tǒng)中，人類生命的安全。這些研究由來自多所大學的眾多專家完成，包括牛津、劍橋、斯坦福、耶魯和巴斯等大學。

人工智能和相關技術的出現(xiàn)為網(wǎng)絡安全帶來了很多可能性，事實上，這是一把雙刃劍，在心懷叵測之人的手中，它將變得非常危險。擁有完美的網(wǎng)絡安全策略或解決方案，其重要性與日俱增。而造成這一切的根源就在于智能設備的激增。此外，由于始終連接到物聯(lián)網(wǎng)生態(tài)系統(tǒng)的端點不斷增加，網(wǎng)絡犯罪分子現(xiàn)在有太多的機會可以滲透到設備中。由于大量的數(shù)據(jù)被存儲，大數(shù)據(jù)泄露對系統(tǒng)性能和功能安全方面都可能帶來毀滅性的后果。大規(guī)模的數(shù)據(jù)安全漏洞影響面將非常廣，它不僅損壞聲譽，還會帶來嚴重的法律后果。任何組織機構都需要確保他們在數(shù)據(jù)有用性和隱私權之間取得恰當?shù)钠胶狻Ｔ诖鎯?shù)據(jù)之前，有關用戶的任何唯一標識符都應被刪除。但這本身就存在安全風險，因為刪除并不能確保數(shù)據(jù)在將來仍保持匿名。

隨著組織機構存儲的數(shù)據(jù)越來越多，他們還面臨硬件和軟件加密的挑戰(zhàn)。如果需要云端執(zhí)行分析，則用戶就不能加密再發(fā)送數(shù)據(jù)。使用“全同態(tài)加密”（ Fully Homomorphic Encryption, FHE）是其中一種解決方案，它允許存儲在云端的數(shù)據(jù)對加密數(shù)據(jù)執(zhí)行操作。當數(shù)據(jù)被解碼時，其結果與對明文數(shù)據(jù)執(zhí)行操作是相同的。因此，云端將能夠在不知道明文數(shù)據(jù)的情況下對加密數(shù)據(jù)執(zhí)行操作。

行業(yè)專家分析了黑客和安全專業(yè)人員對機器學習算法的大量應用。這場沒有規(guī)則的戰(zhàn)斗使企業(yè)防御神經(jīng)緊繃，但如果處理得當，企業(yè)應該可以對特定目標進行系統(tǒng)內(nèi)攻擊，從錯誤中汲取教訓，進而加固系統(tǒng)。在搜索漏洞方面，與自動化的共生將推動網(wǎng)絡犯罪分子加快病毒實施操作，并進一步尋找更多的系統(tǒng)弱點。例如，網(wǎng)絡犯罪分子可以通過這些功能來掃描軟件中以前未知的漏洞，并將其用于非法目的。但機器學習也可以洞察不良行為，補充通過其他手段獲得的情報。而且它更加敏捷、更加靈活，因為與其他工具相比，人工智能工具通常部署速度更快，交付運營效果也更快。畢竟，智能安全系統(tǒng)可以擊敗任何復雜的威脅，但同時也代表著它已成為下一個人工智能網(wǎng)絡攻擊的目標。

可能會發(fā)生的可怕的事

隨著全球高科技公司和政府的不斷投資，人工智能迅速擴張并已成為一個競爭相當激烈的行業(yè)。Markets and Markets 最近的一項研究預測，未來幾年其復合年增長率 (CAGR) 將超過 60%，價值超過 150 億美元。硬件創(chuàng)新的勢頭也很強勁，這些創(chuàng)新提高了計算機的操作能力，使得在不同的 GPU 平臺上運行更復雜的模型成為可能。

大多數(shù)單獨的人工智能技術將被用于各種機器人控制任務的自動化，它們能夠做出關鍵決策，但也會對整個數(shù)字生態(tài)系統(tǒng)產(chǎn)生負面影響。因為自動化智能機器可以評估最易被攻擊的目標。利用先進的技術，人工智能可以通過操縱系統(tǒng)和禁用安全組件來隱藏“網(wǎng)絡感染”。一旦系統(tǒng)被感染，它們就可用于傳播各種計算機病毒，包括更高級的勒索軟件。

目前，大多數(shù)網(wǎng)絡犯罪組織均使用各種知名的勒索軟件系列，他們修改其源代碼來生成不同的樣本。采用類似的方式，人工智能技術將能夠創(chuàng)建自己的定制惡意軟件，它可能是從頭開始創(chuàng)建并執(zhí)行先進的機器學習算法。物聯(lián)網(wǎng)設備（例如醫(yī)療設備）及其背后的資源和數(shù)據(jù)很可能是其主要攻擊點。但我們要應對的案例不僅集中于計算機病毒，還集中在與機器人和無人機相關的方面。從用于消費者或工業(yè)活動的簡單機器人，到無人機和未來的民用飛行出租車，它們都可能成為潛在的危險武器，極易受到遠程操縱。而自動駕駛汽車和整個智慧城市生態(tài)系統(tǒng)也可能被刻意誤讀信號，加劇危險的交通狀況。

許多工程師和分析師估計，下一次利用AI的重大攻擊可能會在幾年內(nèi)發(fā)生。最大的威脅仍然是身份盜用、拒絕服務攻擊和密碼破解。在日益數(shù)字化的世界中，這類攻擊會削弱人類的能力并影響公共機構的行政行為。AI還可能是魚叉式網(wǎng)絡釣魚攻擊的關鍵，它收集和處理數(shù)據(jù)庫數(shù)據(jù)以輕松鏈接來自不同源的信息，并發(fā)起最佳攻擊。許多攻擊都可以與人工智能配合，它可能混淆醫(yī)生的診斷。惡意人工智能與黑客攻擊的配合，理論上可以達到無法估量的尺度。

安全專家推測，最大的威脅可能是——人工智能能夠利用機器巨大的計算能力創(chuàng)建出新的病毒樣本。通過設計，AI可以分析當前的病毒弱點并生成更高級的形式。其首個缺點可能是較高的計算成本，但隨著時間的推移，計算成本必會減少。

很多組織機構已經(jīng)開始打擊人工智能惡意軟件，為未來可能發(fā)生的攻擊做準備。但由于人工智能理論上具有的無限潛力，網(wǎng)絡安全專家也意識到它越來越難管理并將會嚴重威脅IT安全。當然，人工智能有望為物理、化學和醫(yī)學等各個領域的研究提供支持，我們還將看到人工智能如何參與到對新行星的探索當中。

(參考原文：The Age of Artificial Intelligence)

責編：Amy Guan

本文為《電子工程專輯》2021年8月刊雜志文章，版權所有，禁止轉(zhuǎn)載。