|
文章來源： 山東大學(xué)國際問題研究院《歐洲觀察》報(bào)告 總第27期歐盟與英國研究中心課題組：山東大學(xué)東北亞學(xué)院科研助理張安琪。人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，其快速發(fā)展帶來一系列安全、倫理挑戰(zhàn)。首先是造成社會(huì)固有偏見與歧視的加劇。科研人員為機(jī)器學(xué)習(xí)算法設(shè)置參數(shù)可能受自身主觀意識(shí)影響，導(dǎo)致算法偏見。當(dāng)不具有代表性的數(shù)據(jù)被人工智能輸入并學(xué)習(xí)、傳播，這種數(shù)據(jù)偏見會(huì)導(dǎo)致機(jī)器生成不公正判斷結(jié)果，放大社會(huì)偏見現(xiàn)象。其次是侵犯?jìng)€(gè)人隱私權(quán)。人工智能的使用涉及大量個(gè)人數(shù)據(jù)共享，這些數(shù)據(jù)有時(shí)是在未經(jīng)個(gè)人同意的情況下被捕獲和提取的。同時(shí)，這些行為還普遍缺乏明確法律依據(jù)與可問責(zé)性。人工智能的復(fù)雜性可能導(dǎo)致責(zé)任難以追溯，影響受害人的正當(dāng)權(quán)益。再次是加劇社會(huì)分裂孤立。人工智能個(gè)性化服務(wù)在改善公眾生活水平的同時(shí)，也容易形成“信息繭房”，無形中限制人們接觸不同層面信息。同時(shí)，很多涉及高維知識(shí)的機(jī)器運(yùn)行超出大眾推理能力，其結(jié)果對(duì)公眾來說缺乏透明性和可解釋性。而且在設(shè)計(jì)和實(shí)施人工智能過程中，微小疏忽產(chǎn)生的低質(zhì)量結(jié)果會(huì)對(duì)社會(huì)造成極大危害。最后是加劇國際安全威脅。人工智能在網(wǎng)絡(luò)安全、生物技術(shù)、軍事情報(bào)領(lǐng)域的不當(dāng)使用或?yàn)E用將會(huì)帶來全球范圍的安全威脅。同時(shí)，缺少規(guī)制的全球技術(shù)標(biāo)準(zhǔn)競(jìng)賽將加劇發(fā)達(dá)國家與發(fā)展中國家之間技術(shù)鴻溝。 綜上，全球各國迫切需要采取有效治理措施，促使人工智能在負(fù)責(zé)任的框架下取得可靠和可控的成果，以創(chuàng)造社會(huì)經(jīng)濟(jì)效益。作為全球人工智能領(lǐng)域的領(lǐng)先者之一，近年來，英國積極制定負(fù)責(zé)任的、鼓勵(lì)創(chuàng)新的人工智能治理措施，力圖以英國的價(jià)值觀塑造人工智能的全球發(fā)展。下面在解析英國人工智能發(fā)展背景的基礎(chǔ)上，從人工智能倫理、監(jiān)管、國際協(xié)作三方面具體闡釋英國人工智能的治理策略。2016年，面對(duì)國際人工智能強(qiáng)勢(shì)崛起與全民公投退出歐盟的雙重巨變，英國以追求全球性大國地位為目標(biāo)，將包括人工智能在內(nèi)的新興技術(shù)作為國家發(fā)展優(yōu)先事項(xiàng)。在2016—2021年期間，英國人工智能采取去中心化的、以行業(yè)為主導(dǎo)（sector-specific approach）的治理方式，借助現(xiàn)有法律框架，由特定行業(yè)監(jiān)管機(jī)構(gòu)治理人工智能風(fēng)險(xiǎn)。這一期間政策措施（見表1）雖然取得一定進(jìn)展，但由于部門之間不一致、重復(fù)性和法律適用問題，關(guān)于是否延續(xù)行業(yè)主導(dǎo)治理方法的爭(zhēng)議逐漸增多。 表1 2016—2021年間英國人工智能領(lǐng)域文件與機(jī)構(gòu)自2021年起，英國為解決爭(zhēng)議問題，制定了一套跨部門原則（cross-sectoral principles），在該原則基礎(chǔ)上延續(xù)以行業(yè)為主導(dǎo)的治理方法，并在國家戰(zhàn)略層面建立了負(fù)責(zé)任、鼓勵(lì)創(chuàng)新的人工智能治理框架。2021年9月22日，英國政府發(fā)布《國家人工智能戰(zhàn)略》（National AI Strategy），明確未來十年將英國打造為全球人工智能“超級(jí)大國”的戰(zhàn)略目標(biāo)，將有效治理人工智能列為實(shí)現(xiàn)該目標(biāo)的三大核心支柱之一。2023年8月31日，英國科學(xué)、創(chuàng)新及技術(shù)委員會(huì)（Science, Innovation and Technology Committee）發(fā)布《人工智能治理：中期報(bào)告》（The governance of artificial intelligence: interim report），對(duì)現(xiàn)有人工智能監(jiān)管框架、法規(guī)和道德倫理進(jìn)行了全面分析，闡釋政策制定者在人工智能治理方面必須應(yīng)對(duì)的12個(gè)挑戰(zhàn)，并提出建議，強(qiáng)調(diào)政府必須加速建設(shè)人工智能治理制度，以在激烈的全球治理規(guī)則競(jìng)賽中維持英國的領(lǐng)先地位。 為應(yīng)對(duì)人工智能治理帶來的多重風(fēng)險(xiǎn)，英國在道德倫理、機(jī)構(gòu)監(jiān)管、國際協(xié)作等三方面展開積極行動(dòng)。英國構(gòu)建倫理框架有利于應(yīng)對(duì)偏見、歧視、隱私侵犯、不透明性、個(gè)人權(quán)利剝奪、社會(huì)孤立和不可靠結(jié)果等風(fēng)險(xiǎn)，營造人工智能保障生態(tài)系統(tǒng)，提高公眾信任度。2018年6月13日，英國中央數(shù)字和數(shù)據(jù)辦公室（Central Digital& Data Office，CDDO）發(fā)布《數(shù)據(jù)倫理框架》（Data Ethics Framework），指導(dǎo)政府和公共部門負(fù)責(zé)任地使用數(shù)據(jù)。該文件提出了倫理框架的總體原則和具體操作步驟。 基于該框架，2019年艾倫·圖靈研究中心與政府?dāng)?shù)字服務(wù)局（Government Digital Service，GDS）、人工智能辦公室合作制定了《了解人工智能倫理與安全：公共部門負(fù)責(zé)任地設(shè)計(jì)和實(shí)施人工智能系統(tǒng)的指南》（Understanding artificial intelligence ethics and safety:A guide for the responsible design and implementation of AI systems in the public sector），為部門合理使用人工智能技術(shù)提供具體指導(dǎo)。《指南》將人工智能倫理定義為一套采用廣泛接受的是非標(biāo)準(zhǔn)來指導(dǎo)人工智能技術(shù)開發(fā)和使用中的道德行為的價(jià)值觀、原則和技術(shù)，提出團(tuán)隊(duì)開發(fā)人工智能項(xiàng)目需滿足4個(gè)目標(biāo)：合乎道德、具有公平和非歧視性、值得公眾信賴、具有合理性。要使這些目標(biāo)融入人工智能項(xiàng)目中，需通過三個(gè)步驟建立一個(gè)治理結(jié)構(gòu)：一是建立SUM價(jià)值觀框架（尊重個(gè)人尊嚴(yán)、真誠開放包容地聯(lián)系、關(guān)愛所有人的福祉、保護(hù)社會(huì)價(jià)值觀）；二是遵循“快速通道原則”（FAST Track Principles）（公平、問責(zé)制、可持續(xù)性、透明度）；三是構(gòu)建“PBG框架”，即將SUM值和FAST Track原則運(yùn)用到人工智能開發(fā)設(shè)計(jì)中。該《指南》發(fā)布有助于英國公共部門合理開發(fā)使用人工智能，為英國企業(yè)在倫理道德框架下使用人工智能起到模范作用。此外，2021年12月8日，數(shù)據(jù)倫理與創(chuàng)新中心在倫理框架下發(fā)布全球首個(gè)《人工智能保障生態(tài)系統(tǒng)路線圖》（AI Assurance Roadmap），通過提供可信賴的人工智能保障工具與成熟業(yè)務(wù)生態(tài)系統(tǒng)，為公眾提供人工智能項(xiàng)目是否可靠的證據(jù)，進(jìn)而降低風(fēng)險(xiǎn)，并提高公眾對(duì)人工智能的信任度。 人工智能監(jiān)管是人工智能治理的重要組成部分。2022年7月18日，英國數(shù)字、文化、媒體和體育部（Department for Digital, Culture, Media and Sport）發(fā)布《建立有利于創(chuàng)新的方法來監(jiān)管人工智能：英國新興方法概述》（Establishing a pro-innovation approach to regulating AI An overview of the UK’s emerging approach）闡述英國在治理人工智能方面的國家立場(chǎng)，作為對(duì)《國家人工智能戰(zhàn)略》的補(bǔ)充。該報(bào)告認(rèn)為，對(duì)人工智能提出一個(gè)相對(duì)固定的定義不利于創(chuàng)新，但對(duì)人工智能定義不設(shè)限又可能會(huì)導(dǎo)致公眾信任危機(jī)與治理混亂風(fēng)險(xiǎn)。 因此，英國選擇列出人工智能的核心特征，以告知人工智能監(jiān)管框架的范圍，允許監(jiān)管機(jī)構(gòu)根據(jù)其特定領(lǐng)域或部門來制定和發(fā)展更詳細(xì)的人工智能定義。運(yùn)用該方法，英國定義人工智能的兩個(gè)核心特征為：1.適應(yīng)性（adaptiveness），即人工智能系統(tǒng)通常根據(jù)指令運(yùn)行，這些指令結(jié)果并未明確按照人類意志編程，而是由人工智能自主學(xué)習(xí)給出結(jié)果。2.自主性（autonomy），即在沒有人類明確指示和控制情況下，人工智能系統(tǒng)自主做出決策的能力。在人工智能監(jiān)管框架方面，報(bào)告提出基于應(yīng)用場(chǎng)景、支持創(chuàng)新和基于風(fēng)險(xiǎn)、連貫性、合比例性和適應(yīng)性4種構(gòu)建方法。 2023年3月29日，《人工智能監(jiān)管：促進(jìn)創(chuàng)新的方法》（A Pro-innovation Approach to AI regulation）正式發(fā)布，旨在營造清晰連貫的人工智能監(jiān)管環(huán)境，推動(dòng)負(fù)責(zé)任創(chuàng)新，鞏固英國作為人工智能全球領(lǐng)導(dǎo)者的地位。報(bào)告提出，人工智能監(jiān)管原則初步會(huì)在非法定基礎(chǔ)上發(fā)布，后期則會(huì)依據(jù)對(duì)非法定監(jiān)管框架有效性監(jiān)測(cè)結(jié)果決定是否引入法定義務(wù)。英國人工智能監(jiān)管的目標(biāo)包含3方面：一是消除創(chuàng)新障礙和減少監(jiān)管不確定性，來推動(dòng)增長(zhǎng)和繁榮；二是在應(yīng)對(duì)風(fēng)險(xiǎn)和保護(hù)基本價(jià)值觀的基礎(chǔ)上，增加公眾對(duì)人工智能的信任；三是加強(qiáng)英國作為人工智能全球領(lǐng)導(dǎo)者的地位。基于經(jīng)濟(jì)合作與發(fā)展組織（OCED）的人工智能原則，英國政府將跨部門原則調(diào)整為5方面，即安全安保和穩(wěn)健性、適當(dāng)?shù)耐该鞫群涂山忉屝?、公平性、問?zé)制和治理、競(jìng)爭(zhēng)和可補(bǔ)救性。針對(duì)監(jiān)管缺乏一致性問題，除上述跨部門原則外，報(bào)告還制定了一套中央監(jiān)測(cè)和評(píng)估（Central monitoring and evaluation）框架以監(jiān)測(cè)、評(píng)估和反饋監(jiān)管效果。從上述文件不難看出，英國政府的治理方式極大程度上依賴于政府、監(jiān)管機(jī)構(gòu)、社會(huì)公眾三方的合作努力。監(jiān)管機(jī)構(gòu)在該模式下?lián)碛休^大自主權(quán)，這要求它們具備較強(qiáng)的開發(fā)使用和監(jiān)管治理人工智能的能力。在機(jī)構(gòu)能力建設(shè)方面，政府發(fā)布了一系列關(guān)于如何在公共部門構(gòu)建和使用人工智能的聯(lián)合指南。首先，政府通過《了解人工智能倫理與安全：公共部門負(fù)責(zé)任地設(shè)計(jì)和實(shí)施人工智能系統(tǒng)的指南》構(gòu)建倫理道德框架，指導(dǎo)部門和公共機(jī)構(gòu)在合理道德范圍內(nèi)使用人工智能。其次，政府?dāng)?shù)字服務(wù)局和人工智能辦公室于2019年6月10日發(fā)布《了解人工智能》（Understanding artificial intelligence）、《評(píng)估人工智能是否是正確的解決方案》（Assessing if artificial intelligence is the right solution）、《規(guī)劃和準(zhǔn)備人工智能實(shí)施》（Planning and preparing for artificial intelligence implementation）、《管理您的人工智能項(xiàng)目》（Managing your artificial intelligence project）系列指南，旨在提高公共部門工作人員評(píng)估、規(guī)劃和管理人工智能的能力。 在協(xié)調(diào)機(jī)構(gòu)方面，政府部門與公共組織通過建立多方機(jī)構(gòu)，為各界溝通搭建橋梁。由四個(gè)主要監(jiān)管機(jī)構(gòu)組成的數(shù)字監(jiān)管合作論壇為機(jī)構(gòu)合作提供對(duì)話平臺(tái)。人工智能委員會(huì)通過匯聚來自各行各業(yè)的專業(yè)人士，為人工智能治理提供多元化建議。由數(shù)據(jù)倫理與創(chuàng)新中心發(fā)起的公眾對(duì)數(shù)據(jù)和人工智能態(tài)度網(wǎng)絡(luò)（Public attitudes to data and AI）通過監(jiān)測(cè)公眾對(duì)人工智能的態(tài)度變化周期，評(píng)估公眾信任驅(qū)動(dòng)因素。英格蘭銀行和金融行為監(jiān)管局聯(lián)合舉辦的人工智能公私論壇通過共享信息、收集意見、討論解決方法等方式進(jìn)一步促進(jìn)公共和私營部門之間對(duì)話，提升雙方人工智能治理能力。 表2 英國與AI相關(guān)多方機(jī)構(gòu)（部分） 資料來源：GOV.UK，Bank of England 區(qū)別于歐盟、美國、加拿大等國引入跨領(lǐng)域人工智能法規(guī)做法，英國采取更加務(wù)實(shí)的以行業(yè)為主導(dǎo)的監(jiān)管方式。這種獨(dú)特監(jiān)管方式不依賴于單一跨領(lǐng)域立法，使英國能夠更加靈活地管理特定部門的人工智能風(fēng)險(xiǎn)，為技術(shù)創(chuàng)新營造良好生態(tài)環(huán)境。但在該模式下，各監(jiān)管機(jī)構(gòu)面臨協(xié)調(diào)與能力挑戰(zhàn)，非法定跨部門原則的有限效力也促使英國政府必須加快立法行動(dòng)。人工智能作為一項(xiàng)具有高度不確定性的顛覆性技術(shù)，其快速發(fā)展所帶來的風(fēng)險(xiǎn)和倫理問題需要全球各國合作治理。為此，英國除了參與雙邊、多邊合作論壇外，還積極參與國際技術(shù)標(biāo)準(zhǔn)得制定。在國際合作方面，2016年，英國與七國集團(tuán)（G7）國家發(fā)起關(guān)于人工智能原則的國際討論，為2019年OCED人工智能原則建立奠定基礎(chǔ)。2020年，英國作為創(chuàng)始成員支持啟動(dòng)全球人工智能伙伴關(guān)系（Global Partnership on AI，GPAI）。2023年11月1日，英國作為主辦方邀請(qǐng)全球28個(gè)國家參與人工智能安全峰會(huì)，推動(dòng)達(dá)成的世界首個(gè)人工智能安全協(xié)議——《布萊切利宣言》（Bletchley Declaration）對(duì)于全球人工智能治理具有里程碑意義。在技術(shù)標(biāo)準(zhǔn)制定方面，英國標(biāo)準(zhǔn)協(xié)會(huì)（BSI）作為自主和智能系統(tǒng)倫理開放社區(qū)（OCEANIS）創(chuàng)始成員，協(xié)助促進(jìn)全球技術(shù)標(biāo)準(zhǔn)研究協(xié)商。英國政府積極參與經(jīng)合組織實(shí)施可信人工智能專家組網(wǎng)絡(luò)（OECD’s Network of Experts Group on Implementing Trustworthy AI），提供人工智能政策建議。2022年10月，英國啟動(dòng)人工智能標(biāo)準(zhǔn)中心（AI standards hub)，旨在組織利益相關(guān)者參與國際標(biāo)準(zhǔn)化工作，并為其提供信息。該中心通過知識(shí)共享、社區(qū)構(gòu)建，將政府、企業(yè)、監(jiān)管機(jī)構(gòu)各界聚集在一起，有效提升了英國國際聲望。 英國是率先對(duì)人工智能進(jìn)行治理的國家之一，也是目前全球人工智能治理官方政策數(shù)量?jī)H次于美國的國家?？傮w來看，英國堅(jiān)持在本國特色基礎(chǔ)上構(gòu)建能夠在最大程度上鼓勵(lì)創(chuàng)新的治理框架，但在國際人工智能治理博弈中，相較于英國在人工智能立法層面的行動(dòng)遲緩，許多國家都已加快制定人工智能法規(guī)步伐，譬如，歐盟早已出臺(tái)《人工智能法案》（AI act），達(dá)成全球首部人工智能領(lǐng)域的全面監(jiān)管法規(guī)。這對(duì)英國實(shí)現(xiàn)在2030年成為全球人工智能超級(jí)大國目標(biāo)將是一個(gè)巨大挑戰(zhàn)。編輯：李睿 責(zé)編：邊寧
山東大學(xué)國際問題研究院成立于2019年，為山東大學(xué)批準(zhǔn)成立的新型高端智庫。中國社會(huì)科學(xué)院學(xué)部委員、山東大學(xué)講席教授張?zhí)N嶺擔(dān)任院長(zhǎng)。研究院以“觀察世界、服務(wù)國家”為理念，以新型交叉學(xué)科研究為導(dǎo)向，著重研究區(qū)域國別理論與實(shí)踐問題、海洋秩序，特別是海洋命運(yùn)共同體問題、國際經(jīng)濟(jì)發(fā)展、治理與合作問題。“山大國際觀察”微信公眾號(hào)由山東大學(xué)國際問題研究院運(yùn)營，以追蹤國際形勢(shì)發(fā)展新趨勢(shì)，探究國際熱點(diǎn)問題新動(dòng)向，展現(xiàn)國際研究新成果為創(chuàng)辦宗旨。公眾號(hào)設(shè)院長(zhǎng)專欄、熱點(diǎn)聚焦、名家觀察、山大國際觀察、亞洲觀察、歐洲觀察、資訊庫等版塊，負(fù)責(zé)轉(zhuǎn)發(fā)和梳理國際熱點(diǎn)問題、前沿資訊和理論成果，跟蹤和公布研究院的重要學(xué)術(shù)活動(dòng)和研究成果。如您對(duì)此感興趣，歡迎掃描下方二維碼關(guān)注我們。
|
