歐盟達(dá)成歷史性AI法案，企業(yè)怎么看？

gfergfer 2023-12-11 發(fā)布于江蘇

展開全文

2023.12.11

本文字?jǐn)?shù)：2795，閱讀時(shí)長大約5分鐘

導(dǎo)讀：歐盟一直走在技術(shù)監(jiān)管的最前沿。但在企業(yè)看來，嚴(yán)格的制約可能會(huì)打擊歐洲公司的創(chuàng)新能力。

作者 | 第一財(cái)經(jīng) 錢童心

上周末，歐盟經(jīng)過了馬拉松式的談判后，終于敲定了一項(xiàng)歷史性的AI監(jiān)管協(xié)議，這也將成為全球首個(gè)廣泛覆蓋包括生成式AI在內(nèi)的監(jiān)管法案，并且是全球?qū)I監(jiān)管最為嚴(yán)格的法案。

在新規(guī)則中，立法者同意嚴(yán)格限制面部識(shí)別技術(shù)的使用，并禁止利用人工智能進(jìn)行“社會(huì)評分”以及“操縱人類行為”的人工智能系統(tǒng)。新規(guī)還禁止利用人工智能剝削那些因年齡、殘疾或經(jīng)濟(jì)狀況而處于弱勢的人。不遵守規(guī)則的公司將面臨3500萬歐元或等同于全球收入7%的罰款（二選一）。

歐盟一直走在技術(shù)監(jiān)管的最前沿。歐盟委員會(huì)內(nèi)部市場專員蒂埃里·布雷頓 (Thierry Breton) 在X平臺(tái)上表示，歐盟將成為首個(gè)為人工智能的使用制定明確規(guī)則的地區(qū)，《人工智能法案》不僅僅是一本規(guī)則手冊，它還是歐盟初創(chuàng)企業(yè)和研究人員引領(lǐng)全球人工智能競賽的“跳板”。

監(jiān)管和創(chuàng)新如何平衡？

一些業(yè)內(nèi)人士擔(dān)心，ChatGPT等生成式AI工具有能力使用大量數(shù)據(jù)從簡單查詢中生成復(fù)雜且類似人類的輸出，并可能產(chǎn)生歧視性語言、侵犯隱私。

但在企業(yè)看來，嚴(yán)格的制約可能會(huì)打擊歐洲公司的創(chuàng)新能力。今年6月，包括法國空客公司和德國西門子公司在內(nèi)的數(shù)十家最大的歐洲公司表示，如果政府制定的規(guī)則過于嚴(yán)格，則無法培育創(chuàng)新和幫助當(dāng)?shù)禺a(chǎn)業(yè)。

對此，布雷頓表示，歐盟出臺(tái)的規(guī)則將為人工智能技術(shù)的使用提供保障措施，同時(shí)避免給企業(yè)帶來“過度負(fù)擔(dān)”。

在歐盟就AI監(jiān)管法案達(dá)成協(xié)議后，法國工業(yè)軟件巨頭達(dá)索系統(tǒng)董事會(huì)主席兼首席執(zhí)行官夏伯納（Bernard Charles）接受第一財(cái)經(jīng)記者采訪時(shí)表示：“每個(gè)國家和地區(qū)對技術(shù)都會(huì)有相應(yīng)的管控和限制，包括來自歐洲以及法國本身的監(jiān)管。作為達(dá)索系統(tǒng)這樣的高價(jià)值軟件企業(yè)而言，必須要遵守這些規(guī)則。”

在夏伯納看來，這些監(jiān)管誕生的時(shí)機(jī)正處于人工智能技術(shù)蓬勃發(fā)展的背景下，這是順應(yīng)技術(shù)發(fā)展的必然舉措，但同時(shí)，也不應(yīng)該影響到技術(shù)創(chuàng)新的進(jìn)步。

他同時(shí)也提到，在把高科技的軟件技術(shù)出口給中國等市場時(shí)，也同樣應(yīng)該遵守相應(yīng)的標(biāo)準(zhǔn)及合規(guī)?！斑_(dá)索系統(tǒng)軟件的源代碼是源自歐洲的，所以我們把這些軟件提供給中國出口的時(shí)候，要滿足歐洲出口的相應(yīng)標(biāo)準(zhǔn)和合規(guī)。”夏伯納說。

他強(qiáng)調(diào)，對于一家全球化的企業(yè)而言，應(yīng)該非常了解每個(gè)國家和每個(gè)地區(qū)的法律法規(guī)體系，順應(yīng)不同國家的合規(guī)要求，并在有新的合規(guī)要求出現(xiàn)的時(shí)候，盡快去分析和研究，并發(fā)現(xiàn)其中的機(jī)會(huì)，創(chuàng)造更多價(jià)值。

達(dá)索系統(tǒng)此前收購了美國AI軟件公司Medidata，Medidata正在就十幾項(xiàng)應(yīng)用了AI合成對照組技術(shù)的臨床試驗(yàn)與各監(jiān)管方進(jìn)行討論。

法國空客和德國西門子醫(yī)療也都是AI領(lǐng)域創(chuàng)新的積極擁護(hù)者。根據(jù)空客的官網(wǎng)介紹，該公司正通過人工智能重塑業(yè)務(wù)，重點(diǎn)關(guān)注與人工智能相關(guān)的六個(gè)技術(shù)領(lǐng)域，包括從非結(jié)構(gòu)化文檔中提取有價(jià)值的知識(shí)、基于深度學(xué)習(xí)檢測和決策的計(jì)算機(jī)視覺、異常檢測發(fā)現(xiàn)數(shù)據(jù)中隱藏的模式、設(shè)計(jì)自然語言交互系統(tǒng)的對話協(xié)助、優(yōu)化非常復(fù)雜的約束問題的解決方案以及使下一代飛行器具有自主飛行新功能。

西門子醫(yī)療在上個(gè)月的北美放射學(xué)年會(huì)（RSNA）上率先展示了使用生成式AI技術(shù)將成像掃描與臨床報(bào)告相結(jié)合，成為全球首家展示該技術(shù)應(yīng)用的醫(yī)療設(shè)備廠商。該公司表示，未來計(jì)劃將生成式AI技術(shù)開發(fā)為聊天系統(tǒng)，可以為臨床醫(yī)生的查詢提供適當(dāng)?shù)拇鸢?，包括基于診斷數(shù)據(jù)的“動(dòng)態(tài)生成”和優(yōu)先級報(bào)告。

針對歐盟最新達(dá)成的AI法案，第一財(cái)經(jīng)記者向空客和西門子醫(yī)療方面尋求意見，截至發(fā)稿，對方未予以回復(fù)。

此外，德國軟件巨頭SAP也在涉足人工智能領(lǐng)域。該公司今年以來宣布直接投資了三家人工智能初創(chuàng)公司，分別為Cohere、Anthropic和Aleph Alpha。一位SAP方面人士向第一財(cái)經(jīng)記者指出：“我們對生成式AI的關(guān)注主要集中在應(yīng)用層面?！?/span>

歐美監(jiān)管方式有何不同？

歐盟AI法案在人工智能的發(fā)展歷程中被視為具有里程碑式的意義，但已經(jīng)有科技行業(yè)組織對這項(xiàng)新達(dá)成法案的潛在影響表達(dá)擔(dān)憂和不滿。

代表歐洲科技行業(yè)的集團(tuán)Digital Europe總干事塞西莉亞·博內(nèi)菲爾德-達(dá)爾 (Cecilia Bonefeld-Dahl) 在網(wǎng)絡(luò)平臺(tái)上公開表示：“我們雖然達(dá)成了一項(xiàng)協(xié)議，但也將為此付出代價(jià)，這意味著我們需要投入更多來研究對抗人工智能使用風(fēng)險(xiǎn)的方法，而不是投入技術(shù)本身，新的監(jiān)管規(guī)則將要求公司投入大量資源來遵守，把資源花在律師身上，而不是雇傭人工智能工程師?！?/span>

Digital Europe的成員包括空客、愛立信SAP等數(shù)百家行業(yè)企業(yè)。早在今年6月，歐洲監(jiān)管機(jī)構(gòu)批準(zhǔn)了《人工智能法案》草案時(shí)，該集團(tuán)就在一封聯(lián)名信中表示：“作為歐洲數(shù)字行業(yè)的代表，我們看到了基礎(chǔ)模型的巨大機(jī)遇，以及該領(lǐng)域不斷涌現(xiàn)的新的創(chuàng)新參與者，其中許多誕生于歐洲。在它們有機(jī)會(huì)擴(kuò)大規(guī)模之前，我們不應(yīng)對其進(jìn)行監(jiān)管，或者迫使他們離開?！?/span>

公開信的簽署者聲稱，目前的《人工智能法案》可能會(huì)抑制人工智能技術(shù)為歐洲“重新加入技術(shù)先鋒”的機(jī)會(huì)。他們認(rèn)為，批準(zhǔn)的規(guī)則過于極端，有可能破壞歐盟的技術(shù)雄心，而不是為人工智能創(chuàng)新提供合適的環(huán)境。

這封聯(lián)名信中還稱，全球人工智能獨(dú)角獸中只有3%來自歐盟，信中表示，支持法國、德國和意大利的聯(lián)合提案，將基礎(chǔ)模型的人工智能規(guī)則范圍限制在透明度要求范圍內(nèi)。

此前，法國、德國和意大利的談判代表要求效仿美國的監(jiān)管方法，反對直接監(jiān)管生成型人工智能基礎(chǔ)大模型（通用人工智能模型GPAI），而是支持其背后的公司通過政府引入的行為準(zhǔn)則進(jìn)行自我監(jiān)管。德國和法國是歐洲一些最有前途的人工智能初創(chuàng)公司的所在地，其中包括Aleph Alpha、DeepL和Mistral AI。

一位分析人士向第一財(cái)經(jīng)記者指出，歐洲的監(jiān)管理念是設(shè)置一系列可變動(dòng)的監(jiān)管標(biāo)準(zhǔn)，旨在對風(fēng)險(xiǎn)最高的人工智能系統(tǒng)施加最嚴(yán)格的限制，而針對其他風(fēng)險(xiǎn)程度較小的AI工具，則必須披露內(nèi)容是由人工智能合成。

相比之下，美國的監(jiān)管留給企業(yè)更大的余地，采取了“自愿行為準(zhǔn)則”。拜登政府今年7月宣布了一項(xiàng)人工智能的自愿監(jiān)管協(xié)議，并稱包括亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI等公司都已經(jīng)同意對它們開發(fā)的AI系統(tǒng)進(jìn)行自我監(jiān)管。

美國企業(yè)的“自我監(jiān)管”承諾包括對AI工具進(jìn)行第三方安全測試，對偏見及隱私問題進(jìn)行研究，并向政府和其他機(jī)構(gòu)共享風(fēng)險(xiǎn)信息，開發(fā)能夠應(yīng)對氣候變化等社會(huì)挑戰(zhàn)的AI工具，以及包含識(shí)別人工智能生成素材的透明性措施工具。近期，包括亞馬遜AWS以及Meta在內(nèi)的公司都推出了隱形的AI生成水印工具。

美國還有另一種來自國會(huì)的監(jiān)管聲音，一些議員提出，應(yīng)設(shè)立一個(gè)類似于美國FDA的機(jī)構(gòu)，監(jiān)管人工智能服務(wù)的供應(yīng)商，審核新系統(tǒng)的牌照，并制定各類標(biāo)準(zhǔn)。

中國自2021年以來，已經(jīng)迅速出臺(tái)了針對推薦算法、深度偽造等合成內(nèi)容和生成式AI的一系列監(jiān)管法規(guī)，這些法規(guī)包含了禁止社交平臺(tái)利用推薦算法設(shè)置價(jià)格歧視等，還規(guī)定人工智能開發(fā)商必須對人工智能生成的合成內(nèi)容進(jìn)行標(biāo)注。

大部分專家都認(rèn)為，人工智能監(jiān)管需要全球合作，這需要建立一個(gè)類似于國際原子能機(jī)構(gòu)的組織。但這一構(gòu)想也面臨挑戰(zhàn)，難點(diǎn)在于需要克服地緣政治的不信任以及經(jīng)濟(jì)競爭等各種因素。

微信編輯 | 龍王

本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間，所有內(nèi)容均由用戶發(fā)布，不代表本站觀點(diǎn)。請注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購買等信息，謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請點(diǎn)擊一鍵舉報(bào)。

轉(zhuǎn)藏 分享

QQ空間 QQ好友新浪微博微信

獻(xiàn)花（0） +1

來自： gfergfer > 《Ai》

舉報(bào)/認(rèn)領(lǐng)