剛剛，他一個(gè)會議被騙了2個(gè)億

茉莉7eo6t3y9 2024-03-02 發(fā)布于山西

展開全文

“人工智能之父”杰弗里·欣頓有個(gè)末日預(yù)言：人工智能可能對人類構(gòu)成巨大威脅。因?yàn)椋?/span>“很難找到防止壞人用它做壞事的方法”。

不幸的是，這一預(yù)言正成為現(xiàn)實(shí)。

高端局來了

一個(gè)跨國公司白領(lǐng)，一杯咖啡的功夫，就讓公司損失了2億港元。

原因是，他被邀請參加了一場公司高管的視頻會議，總部首席財(cái)務(wù)官在會上要求他馬上給幾個(gè)賬戶共轉(zhuǎn)賬2個(gè)億，在其他同事的配合下，他當(dāng)場就把事情辦妥了。

但事實(shí)上，這場會議就是個(gè)騙局，整場視頻會議的出席者，只有他一個(gè)“真人”！

這是香港警方近期披露的一起多人“AI換臉”詐騙案。被詐騙職員親眼見到的所有人、親耳聽到的所有聲音，全都來自經(jīng)過“AI換臉、換聲”的詐騙人員。

這位員工并非是沒有警惕的“二愣子”。

最初收到英國總部CFO的郵件，稱公司正在計(jì)劃一個(gè)“秘密交易”，需要他將公司資金轉(zhuǎn)到幾個(gè)香港本地賬戶中待用時(shí)，他并沒有相信，而且認(rèn)為這是釣魚詐騙郵件。

但當(dāng)騙子給他撥了個(gè)視頻電話，而且還邀請了其他幾位“真實(shí)親切”的同事在旁協(xié)助時(shí)，他徹底放下了戒備。

甚至，事件發(fā)生5天之后，他在向英國公司求證時(shí)才發(fā)現(xiàn)自己被騙了。

同樣可怕的“遭遇”，也發(fā)生在福州市某科技公司法人代表郭先生身上。

2023年4月20日，一位好友突然打了個(gè)微信視頻：“老郭，我一個(gè)朋友在外地競標(biāo)，需要430萬保證金。你看看能不能先走你的公司賬戶，幫忙過個(gè)賬？”

好友說錢已打過來，還發(fā)了銀行轉(zhuǎn)賬底單截圖。

因?yàn)槭且曨l聊天，郭先生就沒核實(shí)錢是否到賬，直接給對方賬戶轉(zhuǎn)了430萬。

事后，郭先生給好友打了電話，稱“事情辦妥了”，對方卻驚訝回應(yīng)完全沒有這回事。

9分鐘，430萬沒了！

坑了郭先生的，也是AI詐騙。

綜合公開信息，這種讓人防不勝防的騙局，一般分三步：

1.不法分子用AI機(jī)器人騷擾電話，獲取用來行騙的目標(biāo)對象的聲音素材，然后進(jìn)行聲音偽造；

2.盜取目標(biāo)對象的社交賬號，尋找受害人；

3.用AI換臉技術(shù)，和受害人視頻通話，博取信任，實(shí)施詐騙。

三步下來，以往“發(fā)個(gè)語音”、“打個(gè)視頻”的防詐手段，在AI詐騙面前基本失效。

更可怕的是，掌握AI的騙子，越來越多了！

公開信息顯示，2021年以來多個(gè)省份都出現(xiàn)了AI詐騙及不當(dāng)牟利案件。中國互聯(lián)網(wǎng)協(xié)會2023年5月24日稱，利用“AI換臉”“AI換聲”等進(jìn)行詐騙、誹謗的違法行為屢見不鮮。

當(dāng)傳統(tǒng)認(rèn)知里，受騙對象還多是經(jīng)不起誘惑、社會經(jīng)驗(yàn)少的“冤大頭”，以及一些不常上網(wǎng)的老年人。

只要給幾張照片和幾秒語音，就能復(fù)刻出“真人”的AI詐騙，卻讓每個(gè)人都可能難逃一劫。

比如假扮大學(xué)同學(xué)、親戚、供貨商等AI視頻借錢案件，就層出不窮。

如果覺得從不借錢便不會中招，就太天真了。

當(dāng)騙子偽裝成領(lǐng)導(dǎo)，以匯款、資金周轉(zhuǎn)等緊急理由，要求下屬立即轉(zhuǎn)賬，很少有人能頂住壓力。更有甚者，騙子直接偽造子女、父母車禍入院等借口，利用親人感情實(shí)施欺詐。

據(jù)湖北網(wǎng)警巡查執(zhí)法公布消息，AI技術(shù)新騙局詐騙成功率竟接近100%，其成功率之高、涉案金額之大、詐騙速度之快令人咋舌。

更令人毛骨悚然的是，信息泄露、隱私不安全的普遍現(xiàn)實(shí)，為AI詐騙造就了“天然溫床”。

2023年2月15日，一則“幾乎無人幸免，疑似45億條電商或快遞信息泄露”的消息，沖上熱搜。有網(wǎng)友忍不住吐槽：“要有多強(qiáng)的防范意識，才能想到跟你視頻通話的親友，不是一個(gè)大活人??？要有多強(qiáng)的隱私意識，才能保證自己信息不泄露或被竊??？”

微博大V@全民防詐騙，甚至因此預(yù)言：“你目前還沒被騙，并不是因?yàn)槟愣嗦斆鳎膊皇且驗(yàn)槟銢]錢，而是適合你的'劇本’還在路上?！?/span>

全球大爆發(fā)

2023年4月末，一位叫詹妮弗·德斯特凡諾的美國母親突然接到電話：“媽媽，救命！”

眼看大女兒布里安娜似乎陷入了大麻煩，詹妮弗嚇呆了。

接下來便是對方威脅：

“如果你打電話報(bào)警，就永遠(yuǎn)別想再見到她了！”

掛斷后，詹妮弗立馬要給贖金。

幸運(yùn)的是，女兒正好打來電話，騙局不攻自破。但心有余悸的她仍無比驚訝：

“就算隔一棟樓，我也不會認(rèn)錯(cuò)自己孩子的哭泣聲?！?/span>

詹妮弗想不到的是，突飛猛進(jìn)的AI技術(shù)，早已比一個(gè)母親更了解自己的孩子。而騙子支付的代價(jià)，可能還不到每月5美元。

2017年，名為“Deepfakes”的網(wǎng)友，利用AI技術(shù)發(fā)布了將色情演員換臉成蓋爾·加朵等名人的視頻片段，引發(fā)軒然大波。

被稱為“深度偽造”（Deepfake）的AI換聲及換臉技術(shù)，自此進(jìn)入大眾視野。

一些從事類似詐騙的不法分子，立馬盯上了這一先進(jìn)技術(shù)。

2019年3月，一詐騙犯借助連“微妙的德國口音”也毫無破綻的AI換聲技術(shù)，冒充一家英國能源公司大老板，忽悠其高管轉(zhuǎn)了22萬歐元，這被視為全球首例人工智能詐騙案。

隨后，AI技術(shù)流行的歐美，迅速成為AI詐騙的溫床。

美國聯(lián)邦調(diào)查局年度報(bào)告顯示，2022年美國AI詐騙同比上漲了50%到75%，美國網(wǎng)絡(luò)詐騙損失達(dá)103億美元，創(chuàng)五年來新高，面向老年人的AI語音騙局則是重災(zāi)區(qū)。世界經(jīng)濟(jì)論壇研究與分析主管布魯內(nèi)曼的調(diào)查則顯示，“在過去一年里，26%的小公司和38%的大公司都經(jīng)歷過深度偽造欺詐”。她甚至預(yù)測：

到2026年，超90%的網(wǎng)絡(luò)攻擊內(nèi)容都將是AI合成。

AI詐騙的效果越來越逼真，但技術(shù)門檻和成本，卻一直在降低。

美國加州大學(xué)伯克利分校教授法里德表示，AI換聲到現(xiàn)在已經(jīng)只需要十幾秒錄音就能實(shí)現(xiàn)，換臉則一張照片就可以。相應(yīng)的AI使用費(fèi)，也只需每月5美元到數(shù)百美元不等。

這基本上意味著，普通人都能“輕松”進(jìn)行不法活動。

而且，AI還可以通過信息收集及大數(shù)據(jù)分析，智能篩選出“易騙人群”。比如進(jìn)行金融詐騙，就可以搜集熱衷關(guān)注投資信息的人群，成為潛在目標(biāo)。

甚至，AI還能分析目標(biāo)對象的社交網(wǎng)絡(luò)，進(jìn)而掌握其個(gè)性化表達(dá)方式、人際關(guān)系、興趣愛好等生活習(xí)慣，實(shí)現(xiàn)“詐騙劇本”定制化。

法里德因此驚呼：

“這很可怕，就像一場完美的風(fēng)暴，具備了釀成大禍的所有條件?！?/strong>

但盡管風(fēng)險(xiǎn)顯而易見，AI語音及視頻合成技術(shù)卻仍在狂奔。

今年春節(jié)期間，OpenAI文生視頻模型Sora橫空出世，讓AI視頻制作更加簡單、真實(shí)。一夜之間，“現(xiàn)實(shí)不存在了”的驚嘆，刷遍朋友圈。

當(dāng)AI簽名、AI視頻、AI換聲換臉等，本應(yīng)創(chuàng)造美好和便利的高端技術(shù)變成壞人手中的“魔杖”，無數(shù)人和機(jī)構(gòu)的財(cái)產(chǎn)、信息及現(xiàn)實(shí)安全，也越來越形同“裸奔”。

沒有真相的時(shí)代

“現(xiàn)在已經(jīng)到了大規(guī)模、集中化討論AI風(fēng)險(xiǎn)的關(guān)鍵時(shí)刻”，清華大學(xué)教授沈陽曾如此呼吁。

其實(shí)，對AI詐騙的警惕與治理方案，早已在路上。

美國安全中心發(fā)布的《人工智能與國家安全》，明確將人工智能偽造技術(shù)列為威脅國家安全的重點(diǎn)技術(shù)。中國也開始通過政策管理和技術(shù)限制等途徑，來應(yīng)對其潛在安全風(fēng)險(xiǎn)。

但AI詐騙，似乎是打不死的“小強(qiáng)”——打擊不斷升級，案件也屢創(chuàng)歷史新高。

根本原因，還是法律法規(guī)制定、推廣的建設(shè)速度，趕不上AI技術(shù)的迭代和傳播速度。產(chǎn)業(yè)、大眾對AI危害的反應(yīng)，也很容易慢半拍。

如今，AI騙局也早已超出“詐騙”范疇，蔓延到社會的各個(gè)角落。

今年1月底，明星泰勒·斯威夫特大量AI“不雅照片”在社交平臺上傳播，此事甚至震動美國白宮，并掀起一波關(guān)于人工智能的擔(dān)憂。

包括白宮，也難以幸免。

上周，很多人都接到了美國總統(tǒng)拜登的AI電話呼叫，要求把選票留給自己而非特朗普。

這當(dāng)然也是假的，但不少人還是信了。有人因此認(rèn)為，AI騙局可能會影響美國大選。

在中國，假新聞、假圖片案件也甚囂塵上。

2023年5月，科大訊飛就受一篇名為《科大訊飛出現(xiàn)重大風(fēng)險(xiǎn)的警示文》的文章影響，股價(jià)迅速跳水。公司最后緊急回應(yīng)，股價(jià)下跌系某生成式AI寫作虛假“小作文”導(dǎo)致。

AI越來越方便著人們的生活，但也方便著不法分子們。

2023年4月13日索尼世界攝影獎頒獎禮，大獎得主卻沖上舞臺奪過話筒，悲憤地說這是AI偽作。他反問，“如果索尼世界攝影獎的評委都分不清真假照片，其他人還能怎么辦？”

當(dāng)AI騙局從專業(yè)級走向“平民化”，我們能做的，除了寄望于監(jiān)管，或許就是：

對家人的電話，視頻等等一切，都要首先報(bào)以深深地懷疑。以及把那句，不給任何陌生人匯款變成：

不給任何人匯款。

歡迎點(diǎn)擊關(guān)注《首席訪談》，記得點(diǎn)亮“星標(biāo)”哦！

本站是提供個(gè)人知識管理的網(wǎng)絡(luò)存儲空間，所有內(nèi)容均由用戶發(fā)布，不代表本站觀點(diǎn)。請注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購買等信息，謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請點(diǎn)擊一鍵舉報(bào)。

轉(zhuǎn)藏 分享

QQ空間 QQ好友新浪微博微信

獻(xiàn)花（0） +1

來自：茉莉7eo6t3y9 > 《待分類》

舉報(bào)/認(rèn)領(lǐng)