國家將技術(shù)進步運用于軍事目的能力是國際關(guān)系中構(gòu)成國家權(quán)力的關(guān)鍵要素之一。當(dāng)前，人工智能、機器學(xué)習(xí)與自動化在全球軍事創(chuàng)新中均處于領(lǐng)先地位。這些技術(shù)在軍事領(lǐng)域中最突出且最具爭議的應(yīng)用之一是“致命性自主武器系統(tǒng)”，通常也被稱為“殺手機器人”。這些武器系統(tǒng)如果被部署在戰(zhàn)場后，可以在沒有直接人工監(jiān)督的情況下快速準(zhǔn)確地定位并攻擊目標(biāo)。但是，致命性自主武器系統(tǒng)的出現(xiàn)伴隨著嚴(yán)重的法律與倫理問題，國際社會已經(jīng)就對致命性自主武器系統(tǒng)進行可能約束或者將其全面禁止展開了辯論。

與早期的人道主義裁軍倡議類似，禁止致命性自主武器系統(tǒng)的倡導(dǎo)者認(rèn)為將公眾對此類武器系統(tǒng)的反對態(tài)度作為應(yīng)當(dāng)將其禁止的論據(jù)之一。但也有研究顯示，當(dāng)?shù)弥皻⑹謾C器人”比其他武器類型具有更強的軍事能力時，公眾對致命性自主武器系統(tǒng)的反對態(tài)度會有所緩和。整體來看，當(dāng)前政策制定者與相關(guān)研究者仍不清楚何種因素會影響大眾對該系統(tǒng)的態(tài)度。

新興技術(shù)如人工智能和自主機器對軍事武器和當(dāng)代戰(zhàn)爭的性質(zhì)具有重大影響。雖然關(guān)于這些技術(shù)“革命性”影響的爭論仍在繼續(xù)，但對自主軍事技術(shù)的日益增長的投資已經(jīng)成為現(xiàn)實。

致命性自主武器系統(tǒng)的發(fā)展是當(dāng)前軍事創(chuàng)新領(lǐng)域中一個引人注目且富有爭議的方向。簡單來說，它可以定義為一旦啟動后無需進一步人類干預(yù)即可選擇并攻擊目標(biāo)的武器系統(tǒng)。也正是其在目標(biāo)選擇與攻擊上的自主性，使其區(qū)別于人類保留對目標(biāo)選擇與攻擊決策權(quán)的武器系統(tǒng)。

致命性自主武器系統(tǒng)的發(fā)展兼?zhèn)涫找媾c風(fēng)險。一方面，人們認(rèn)為自主武器能夠有助于在戰(zhàn)爭中獲得速度優(yōu)勢，減少人員需求，并且降低對通信鏈路的依賴。同時，如遠(yuǎn)程控制無人機一樣，自主武器還能夠降低人類士兵面臨的風(fēng)險。另一方面，機器的決策速度與自主攻擊設(shè)置，意味著軍事人員會較少介入期運作過程，這可能導(dǎo)致事故或沖突升級。同時，自主決策系統(tǒng)的不可預(yù)測性與非人性將構(gòu)成對國際人道法挑戰(zhàn)，因為致命性自主武器系統(tǒng)無法理解人類生命的價值與剝奪一個人生命的真正意義。

自2013年以來，關(guān)于自主武器以及其他軍事挑戰(zhàn)的國際討論就一直在聯(lián)合國《關(guān)于某些常規(guī)武器的公約》（CCW）上進行。2016年，CCW締約國成立了政府專家組（GGE）以制定關(guān)于如何解決致命性自主武器系統(tǒng)問題的建議。但由于國家對此問題的關(guān)注點不同（一些國家關(guān)注利好，一些國家關(guān)注人道主義影響），GGE并未在此問題上取得實質(zhì)性進展，但國際社會始終沒有停止對自主武器的關(guān)注，許多非政府組織也正圍繞這一問題展開工作。

致命性自主武器系統(tǒng)在政治和軍事目的上的效用，在某種程度上將取決于它們的公眾接受度。主張禁止致命性自主武器系統(tǒng)的人援引1977年《〈日內(nèi)瓦公約〉附加議定書》馬頓斯條款，認(rèn)為其屬于違反“公眾良心”的戰(zhàn)爭手段和方法。盡管目前國際社會對該條款的解釋存在差異，但回溯過往國際談判案例，確實有過將公眾良心這一因素納入考量以禁止武器系統(tǒng)投入使用的先例。

從診斷復(fù)雜疾病到法律咨詢，算法在很多領(lǐng)域中實際上已經(jīng)優(yōu)于人類決策者。但是，即使后者的決策在客觀上是較差的，公眾仍常常拒絕算法決策而偏愛人類專家。例如，在醫(yī)療診斷領(lǐng)域，患者更傾向于尊從人類醫(yī)生的建議，因為他們認(rèn)為算法無法考慮到他們的“獨特情況”?，F(xiàn)有研究也的確表明，人類傾向于抵制致命性自主武器系統(tǒng)。據(jù)統(tǒng)計，大約55%的美國成年人反對使用致命性自主武器系統(tǒng)。民調(diào)公司Ipsos代表人權(quán)觀察組織進行了幾次跨國調(diào)查，結(jié)果顯示全球約61%的參與者對“殺手機器人”持反對態(tài)度。近期對美國的人工智能和機器學(xué)習(xí)研究人員及地方官員的調(diào)查結(jié)果也體現(xiàn)出了對致命性自主武器系統(tǒng)的潛在厭惡。

盡管所有這些發(fā)現(xiàn)都表明公眾對致命性自主武器系統(tǒng)有強烈的反感，但這一結(jié)論仍不明確。參與者可能反映只是和平主義態(tài)度，而非對自主武器本身的真正厭惡。目前已有研究證明，當(dāng)公眾了解到“殺手機器人”在軍事效用上明顯優(yōu)于其他選項時，其反對意見會顯著減弱。

基于此，本研究將討論國際上關(guān)于規(guī)范致命性自主武器系統(tǒng)辯論中的三個潛在核心因素：結(jié)果主義——對自主技術(shù)發(fā)生事故的擔(dān)憂；法律空白——機器無法為誤傷承擔(dān)責(zé)任；倫理風(fēng)險——讓機器決定人類生死有違人類尊嚴(yán)。同時，本文也對“或然性擔(dān)憂”與“固有性擔(dān)憂”做出了區(qū)分，前者主要基于當(dāng)前自主武器技術(shù)的局限性（如該系統(tǒng)無法正確區(qū)分合法目標(biāo)與非法目標(biāo)）。后者則是基于某些獨立于技術(shù)進步的原因，如自動化殺戮的固有不道德性。責(zé)任歸屬類擔(dān)憂則處于兩者之間。

如果公眾態(tài)度主要受“或然性擔(dān)憂”驅(qū)動，那么隨著技術(shù)發(fā)展，公眾對致命性自主武器系統(tǒng)的態(tài)度可能變化。如果受“固有性擔(dān)憂”驅(qū)動，無論技術(shù)如何進步，公眾對該系統(tǒng)的態(tài)度都不太可能變化。

（一）易出事故

根據(jù)保羅·沙爾（Paul Scharre）的觀點，人類對自主機器有兩種基本直覺。一種是烏托邦式的直覺，認(rèn)為自主系統(tǒng)是一種可靠、安全且精確的人類操作系統(tǒng)的替代方案。另一種是末日式的直覺，認(rèn)為自主系統(tǒng)容易失控并犯下災(zāi)難性的錯誤。事實上，后一種信念的普遍存在?；趯ψ灾飨到y(tǒng)可預(yù)測性和可靠性的懷疑，以及在流行文化中接觸到“機器人末日”想象，公眾會因此形成對使用致命性自主武器系統(tǒng)的厭惡。

這部分擔(dān)憂并非毫無根據(jù)。世界各國的軍隊已經(jīng)在應(yīng)對高度自動化系統(tǒng)方面面臨諸多挑戰(zhàn)，如幾起愛國者導(dǎo)彈防御系統(tǒng)的友軍誤傷事件。在這些事件中，系統(tǒng)錯誤地將友軍飛機識別為敵方導(dǎo)彈。

這些技術(shù)限制對于在戰(zhàn)場上維護基本的倫理標(biāo)準(zhǔn)可能具有深遠(yuǎn)影響。從國際人道法的角度來看，能否確保遵守區(qū)分原則可能是致命性自主武器系統(tǒng)面臨的最具挑戰(zhàn)性的問題。但到目前為止，科學(xué)家尚未開發(fā)出能夠像人類判斷那樣區(qū)分合法與非法目標(biāo)的技術(shù)。在現(xiàn)代戰(zhàn)場環(huán)境中，這種技術(shù)局限尤其令人擔(dān)憂，因為環(huán)境中通常同時存在著戰(zhàn)斗人員和平民，且存在交戰(zhàn)方蓄意混淆其法律身份的可能。

然而，此類挑戰(zhàn)在技術(shù)上具有或然性。原則上，技術(shù)進步最終可能使致命性自主武器系統(tǒng)能夠像人類操作系統(tǒng)一樣區(qū)分合法和非法目標(biāo)。未來，自主武器甚至可能比人類更具有區(qū)分能力，因為它們可以配備廣泛的傳感器進行戰(zhàn)場觀察，并且以遠(yuǎn)超人類的速度進行數(shù)據(jù)處理，在戰(zhàn)場高壓情況下也不會人為因素（如情緒）的影響。

無論致命性自主武器系統(tǒng)最終是否能夠證明其在目標(biāo)區(qū)分方面更可靠，公眾對其認(rèn)知仍可能相對于事實發(fā)展存在“滯后性”，即受到之前該系統(tǒng)相對于人類易出錯的信念的影響。同時，實驗心理學(xué)領(lǐng)域的證據(jù)進一步表明，人們對機器所犯錯誤的容忍度要遠(yuǎn)遠(yuǎn)低于對人類所犯錯誤的容忍度。因此，假設(shè)公眾對“殺手機器人”的態(tài)度受到對技術(shù)易出錯性的現(xiàn)有信念的影響，本研究預(yù)計，向公眾呈現(xiàn)自主系統(tǒng)使用比人類操作系統(tǒng)具有較低的目標(biāo)誤識別風(fēng)險情景，將增加對致命性自主武器系統(tǒng)的支持：

假設(shè)1: 相對于人類操作系統(tǒng)，如果致命性自主武器系統(tǒng)的目標(biāo)誤識別風(fēng)險較低，公眾對該系統(tǒng)的支持將增加。

（二）責(zé)任漏洞

對致命性自主武器系統(tǒng)的另一個反對意見是將導(dǎo)致明顯的“責(zé)任漏洞”。此觀點認(rèn)為，將該系統(tǒng)應(yīng)用于戰(zhàn)場可能會使對不良結(jié)果（如致命事故或明顯的戰(zhàn)爭罪行）追責(zé)變得極其困難。讓處于決策鏈中的人對他們無法控制或預(yù)見的結(jié)果負(fù)責(zé)是不公平的，但同時我們也無法要求機器本身負(fù)責(zé)，因為它缺乏這種責(zé)任的道德代理能力。因此，責(zé)任漏洞的出現(xiàn)實際上對國際人道法構(gòu)成了潛在挑戰(zhàn)。一些學(xué)者甚至認(rèn)為，如果致命性自主武器系統(tǒng)的性質(zhì)造成對其不良后果的追責(zé)困難，那么在戰(zhàn)爭中使用該系統(tǒng)就無法得到道德上的允許。

現(xiàn)有的調(diào)查表明，責(zé)任可能是廣大公眾關(guān)注的問題。2020年Ipsos調(diào)查結(jié)果顯示，大約有53%反對開發(fā)和使用致命性自主武器系統(tǒng)的人認(rèn)為這些系統(tǒng)將導(dǎo)致責(zé)任漏洞?；诖?，本研究希望通過向參與者提供一個明確由軍方領(lǐng)導(dǎo)層承擔(dān)這種責(zé)任的情景，探究在明確將潛在責(zé)任歸于軍方領(lǐng)導(dǎo)層時，公眾態(tài)度會如何變化?；诂F(xiàn)有調(diào)查數(shù)據(jù)，本研究假設(shè)，當(dāng)公眾了解到軍方領(lǐng)導(dǎo)層將為致命性自主武器系統(tǒng)導(dǎo)致的不良后果承擔(dān)責(zé)任后，對部署致命性自主武器系統(tǒng)的支持會增加：

假設(shè) 2：如果公眾知道軍事決策鏈中存在對致命性自主武器系統(tǒng)不良后果負(fù)責(zé)的軍官，他們對該系統(tǒng)的支持將增加。

（三）人類尊嚴(yán)

一個無法通過技術(shù)進步解決的固有性問題是，使用自主機器殺死人類將對人類尊嚴(yán)構(gòu)成侮辱。致命性自主武器系統(tǒng)將人類視為簡單的目標(biāo)或數(shù)據(jù)點并對其實施打擊，違反了基本的人類尊嚴(yán)權(quán)利，即禁止將人類視為簡單物體。

但將“人類尊嚴(yán)”論點引入對是否應(yīng)允許部署該系統(tǒng)的討論仍存在爭議，許多專家認(rèn)為“人類尊嚴(yán)”是一個具有爭議且模糊的概念。批評者通常用結(jié)果主義論據(jù)來反駁，即對尊嚴(yán)的擔(dān)憂最終將被提高軍事效能和降低目標(biāo)誤識別風(fēng)險的利好所抵消。

盡管人類尊嚴(yán)論的邏輯連貫性存在爭議，但它仍強調(diào)道德本能也是驅(qū)動公眾厭惡“殺手機器人”的潛在因素之一。2020年Ipsos調(diào)查顯示，在反對致命性自主武器系統(tǒng)的參與者中，約有66%的人認(rèn)為將致命決策委托給機器會“越過道德紅線”?；诖耍狙芯空J(rèn)為，如果道德本能在塑造公眾對“殺手機器人”的態(tài)度中有所作用，那么個人對侵犯人類尊嚴(yán)的敏感程度與他們對致命性自主武器系統(tǒng)的支持程度之間就將存在負(fù)相關(guān)性：

假設(shè) 3：更關(guān)注侵犯人類尊嚴(yán)問題的個人更不可能支持致命性自主武器系統(tǒng)。

為了測試這些因素是否以及如何影響公眾對致命性自主武器系統(tǒng)的支持度，本研究進行了一項針對999名美國公民的調(diào)查實驗。研究者將參與者隨機分配到五個存在差異的假設(shè)情景中。該假設(shè)情景描述一個聯(lián)合國授權(quán)的反叛亂行動，在這個情景中，指揮官決定是否部署人工遙控或自主無人機來消除叛亂威脅。在實驗設(shè)計中，在每種無人機選項的目標(biāo)誤識別風(fēng)險和對潛在平民死亡的責(zé)任歸因方面有所不同。為了衡量對參與者對該系統(tǒng)的支持程度，研究者要求參與者表明他們更偏好人工遙控還是自主無人機。此外，研究還包括了一個開放式問題，以調(diào)查參與者選擇偏好背后的原因。在對同一批參與者進行的后續(xù)調(diào)查中，研究者還檢驗了他們對侵犯人類尊嚴(yán)的敏感度。

通過在線調(diào)查平臺Prolific，研究員對999名美國成年公民進行了調(diào)查，調(diào)查時間為2022年6月7日至6月9日。調(diào)查美國公眾具有明顯的政策相關(guān)性，因為美國目前在開發(fā)此類技術(shù)方面的處于領(lǐng)導(dǎo)低位。為了增加樣本的代表性，本研究對性別和黨派認(rèn)同（共和黨、民主黨和獨立派）進行了配額處理，因為Prolific平臺傾向于吸引男性、年輕的、立場更傾向于自由派的且受教育程度較高的參與者。

（一）易出事故

數(shù)據(jù)處理結(jié)果顯示，向公眾呈現(xiàn)自主無人機相對于人工操作系統(tǒng)更不容易錯誤地將平民誤認(rèn)為目標(biāo)的情景，顯著增加了他們對致命性自主武器系統(tǒng)使用的支持。因此，公眾對該系統(tǒng)的態(tài)度似乎取決于相對目標(biāo)誤識別風(fēng)險的認(rèn)知。此外，根據(jù)參與者在開放式問題回應(yīng)中對關(guān)于技術(shù)和算法在區(qū)分平民與目標(biāo)方面能力不足的擔(dān)憂表明，對技術(shù)的懷疑可能是導(dǎo)致公眾對“殺人機器人”厭惡的主要驅(qū)動因素之一。調(diào)查結(jié)果進一步證實了這一點，即公眾普遍認(rèn)為自主無人機的風(fēng)險更高，而這些信念影響了他們的偏好。

（二）責(zé)任漏洞

總體來看，研究者沒有發(fā)現(xiàn)支持假設(shè)2的實驗證據(jù)，告知參與者指揮鏈中有負(fù)責(zé)的軍官并沒有增加參與者對致命性自主武器系統(tǒng)的支持。此外，在對開放式問題的回答中，很少有參與者提到責(zé)任方面的擔(dān)憂，這表明對由自主無人機造成平民死亡的責(zé)任問題并不會自動出現(xiàn)在普通公民的腦海中。零結(jié)果不應(yīng)被解釋為公眾對責(zé)任問題完全不關(guān)注。當(dāng)被問及對遙控或自主無人機造成的平民死亡是否更難以對某人進行法律與道德上的追責(zé)時，大多數(shù)人都意識到“殺人機器人”可能給此問題帶來更大的挑戰(zhàn)。但是，即使個人持有“致命性自主武器系統(tǒng)將導(dǎo)致對不良后果追責(zé)困難”的信念，仍然不會使其更可能或更不可能支持對該系統(tǒng)的假設(shè)使用。

（三）人類尊嚴(yán)

調(diào)查顯示，盡管一些參與者擔(dān)心將殺人決定交給算法是不道德的，但他們并不一定認(rèn)為此類擔(dān)憂與侵犯人類尊嚴(yán)有關(guān)。雖然有相當(dāng)數(shù)量的受訪者（41%）表示，被自主無人機的計算機程序殺死比被操縱遙控?zé)o人機的人殺死更不合倫理，但絕大多數(shù)受訪者（71%）在涉及人類尊嚴(yán)時，認(rèn)為這兩種無人機沒有區(qū)別。這表明參與者認(rèn)為致命性自主武器系統(tǒng)的使用與人類尊嚴(yán)問題無關(guān)或僅有非常小的關(guān)聯(lián)。雖然研究發(fā)現(xiàn)，對人類尊嚴(yán)侵犯更敏感的個體平均來看更反對使用該系統(tǒng)，但這些態(tài)度仍然在很大程度上取決于其他因素，特別是目標(biāo)誤識別的風(fēng)險。當(dāng)受訪者意識到自主無人機比使用遙控?zé)o人機有更低的擊中錯誤目標(biāo)的風(fēng)險時，他們對該系統(tǒng)的厭惡程度較低。此外，對照組中的開放式回答表明，雖然對“殺人機器人”的普遍厭惡可能部分受到對自動化殺戮不道德性的認(rèn)識的影響，但參與者并沒有將此類擔(dān)憂理解為對人類尊嚴(yán)的侵犯，且絕大多數(shù)人認(rèn)為被人工遙控或自主無人機殺死是同樣不體面的。

本文期望通過考察公眾對“結(jié)果主義——自主武器的易錯性”、“法律關(guān)切——誤傷追責(zé)”與“倫理關(guān)切——機器殺人”這三種目前國際上針對此問題展開辯論時明確的核心關(guān)切的敏感性，對當(dāng)前國際上關(guān)于致命性自主武器系統(tǒng)的政策辯論具有重要意義。

首先，本研究發(fā)現(xiàn)，盡管公眾對致命性自主武器系統(tǒng)的基準(zhǔn)厭惡程度非常高，但公眾態(tài)度也具有相當(dāng)?shù)膹椥?。公眾對這些武器系統(tǒng)的反對態(tài)度在很大程度上取決于它們相對于人操作系統(tǒng)的出錯概率。在開放性問答中參與者頻繁提到的對技術(shù)水平不足的擔(dān)憂，以及對風(fēng)險估計的補充調(diào)查結(jié)果，都表明認(rèn)為技術(shù)易錯的信念可能是導(dǎo)致公眾對該系統(tǒng)基準(zhǔn)厭惡的主要驅(qū)動因素之一。此外，本研究沒有發(fā)現(xiàn)支持明確提及指揮責(zé)任可以減輕對致命性自主武器系統(tǒng)反對的證據(jù)。最后，關(guān)于自動化殺戮不體面性的固有性擔(dān)憂會增加公眾對這些系統(tǒng)的反對這一假設(shè)，本研究只發(fā)現(xiàn)了十分有限的證據(jù)。平均而言，對人類尊嚴(yán)更關(guān)注的參與者更不偏好使用該系統(tǒng)。然而，額外分析顯示，當(dāng)遙控?zé)o人機相對于自主無人機的誤判風(fēng)險較高（即使是略高）時，對人類尊嚴(yán)敏感的參與者也傾向于選擇后者。

綜上，本研究對當(dāng)前國際社會在限制或禁止致命性自主武器系統(tǒng)的問題上具有明顯意義。研究顯示自致命性自主武器系統(tǒng)如果能夠通過技術(shù)改進提高該系統(tǒng)識別目標(biāo)的精準(zhǔn)度，甚至最終超越人工操作武器系統(tǒng)，那么對于該系統(tǒng)的限制與禁令可能就無法長期持續(xù)。因為如果最終證明致命性自主武器系統(tǒng)在目標(biāo)識別方面比人工系統(tǒng)更可靠，公眾對該系統(tǒng)的態(tài)度會出現(xiàn)較大轉(zhuǎn)變。

但這一發(fā)現(xiàn)并不意味著當(dāng)前國際監(jiān)管沒有價值。首先，目前沒有任何人能保證技術(shù)將發(fā)展到足以勝過人類決策者的程度。其次，本研究在公眾對侵犯人類尊嚴(yán)敏感性問題上的發(fā)現(xiàn)表明，至少仍有部分對致命性自主武器系統(tǒng)的厭惡受到固有性擔(dān)憂的影響。因此，基于該系統(tǒng)易錯性以論證國際社會應(yīng)對其加以約束與限制在短期內(nèi)是有效的，可以動員公眾支持相關(guān)監(jiān)管措施落實，但這樣的框架策略仍然容易受到技術(shù)變革引起的公眾輿論變化影響。將該系統(tǒng)固有不道德性與易出錯性相結(jié)合以動員公眾支持的監(jiān)管措施最有利。