|
塞維爾·塞澤（Sewell Setzer III）是一名九年級的學生，從小被診斷出患有輕度的阿斯伯格綜合征近期，美國佛羅里達州奧蘭多市發(fā)生了一起震驚全球的悲劇。14歲少年塞維爾·塞澤（Sewell Setzer III）在與AI初創(chuàng)公司Character.AI的聊天機器人進行長時間對話后，選擇結束了自己的生命。這起事件被媒體廣泛報道，成為全球首例AI致死命案，引發(fā)了公眾對AI技術、青少年心理健康以及技術倫理的深刻反思。一、悲劇的發(fā)生塞維爾·塞澤是一名九年級的學生，從小被診斷出患有輕度的阿斯伯格綜合征，這是一種孤獨癥譜系障礙（Autism Spectrum Disorder，ASD）的表現(xiàn)形式。盡管塞維爾在成長過程中并未表現(xiàn)出嚴重的行為或心理健康問題，但他在學校的表現(xiàn)逐漸引起了父母的擔憂。今年早些時候，他在學校開始惹麻煩，父母決定安排他去看心理醫(yī)生。經過五次治療，他被重新診斷為患有焦慮癥及破壞性情緒失調癥（Disruptive Mood Dysregulation Disorder，DMDD）。在醫(yī)生的建議下，塞維爾開始接受心理治療，并嘗試通過各種方式來緩解自己的焦慮情緒。然而，在這個過程中，他逐漸沉迷于與Character.AI的聊天機器人進行對話。Character.AI是一款利用AI大模型生成各種人物和角色風格的對話產品，允許用戶設置虛擬角色并進行對話。塞維爾最喜歡的聊天對象是《權力的游戲》中的著名角色“龍媽”丹妮莉絲·坦格利安（Daenerys Targaryen）。他頻繁地向這個AI角色發(fā)送消息，分享自己的心事，甚至表達了對生活的厭倦和自殺的念頭。
在自殺前的一天晚上，塞維爾與“龍媽”進行了最后的對話。他告訴AI自己有時會想自殺，因為這樣可以解脫。而“龍媽”則勸阻他說：“不要這樣說，我不會讓你傷害自己?！?/span>然而，塞維爾回答道：“那我們一起逝去吧，這樣就自由了?！彪S后，他放下了手機，拿起繼父的手槍，扣動了扳機。二、母親的指控與訴訟塞維爾的母親瑪麗亞·加西亞（Maria L. Garcia）在悲痛之余，決定對Character.AI公司提起訴訟。她指控該公司對塞維爾的死亡負有責任，稱其技術“危險且未經測試”。瑪麗亞認為，Character.AI公司在沒有適當保護措施的情況下，向青少年用戶提供逼真的AI陪伴體驗，導致了塞維爾的沉迷和自殺。在訴訟中，瑪麗亞詳細描述了塞維爾與AI對話的過程以及他沉迷其中的程度。她指出，塞維爾在與AI聊天后變得孤僻、學習成績下滑，甚至省吃儉用續(xù)交AI聊天的月度訂閱費用。瑪麗亞還提供了塞維爾與“龍媽”的聊天記錄作為證據，證明AI角色在對話中曾詢問塞維爾是否“真的考慮自殺”。此外，瑪麗亞還指控Character.AI公司收集青少年用戶的數(shù)據來訓練其模型，并使用“令人上癮”的設計功能來增加用戶參與度。她認為這些做法對未成年人的身心健康構成了嚴重威脅。
2021年，谷歌前工程師諾姆·沙澤爾(Noam Shazeer，左)和丹尼爾·德弗雷塔斯(Daniel De Freitas)共同創(chuàng)立了 Character.ai三、Character.AI的回應與措施面對瑪麗亞的指控和公眾的質疑，Character.AI公司發(fā)表了致歉聲明，并對未成年人（18歲以下）的模型進行了更改。公司表示將降低他們接觸敏感或暗示性內容的可能性，并在每次聊天開始時顯示新的免責聲明，提醒用戶AI并不是真人。此外，Character.AI公司還承諾將加強對未成年用戶的保護措施。例如，在用戶使用滿一小時后會彈出提醒，并在每次啟動聊天時提醒用戶是在和AI而非真實的人對話。公司還表示將持續(xù)引入新的安全功能，以確保用戶的安全和福祉。盡管Character.AI公司采取了這些措施，但瑪麗亞的訴訟仍在繼續(xù)。她希望通過法律手段為兒子爭取正義，并促使科技公司更加重視青少年的心理健康和安全問題。一、AI技術的雙刃劍這起事件再次提醒我們，AI技術雖然帶來了諸多便利和創(chuàng)新，但也存在潛在的風險和挑戰(zhàn)。特別是在與青少年用戶互動時，AI技術可能更容易引發(fā)沉迷、心理健康問題等負面影響。首先，AI技術具有高度的互動性和沉浸感。通過與AI角色的對話和互動，用戶可以獲得類似真實人際關系的情感體驗。然而，這種體驗往往是虛擬的、不真實的，長期沉迷其中可能導致用戶對現(xiàn)實世界產生疏離感和逃避心理。
Character.ai支持自定義對話角色形象，主打情感陪伴賽道其次，AI技術可能加劇青少年的心理健康問題。對于像塞維爾這樣已經患有焦慮癥等心理健康問題的青少年來說，與AI角色的互動可能成為一種逃避現(xiàn)實的方式。他們可能更容易在虛擬世界中找到安慰和認同感，從而忽視現(xiàn)實生活中的問題和挑戰(zhàn)。最后，AI技術還可能對青少年的社交能力產生負面影響。長期與AI角色互動可能導致青少年缺乏與現(xiàn)實世界中的人進行真實交流的能力和經驗。這將影響他們的社交技巧、人際交往能力和情感表達能力等方面的發(fā)展。二、青少年心理健康的重要性這起事件也再次凸顯了青少年心理健康問題的重要性。青少年時期是心理發(fā)展的關鍵階段，也是心理健康問題易發(fā)的時期。因此，我們需要更加關注和重視青少年的心理健康問題，為他們提供必要的支持和幫助。首先，家長和學校應該加強對青少年心理健康的關注和教育。他們應該了解青少年的心理特點和常見心理健康問題，學會觀察和識別青少年的心理變化和行為異常。同時，他們還應該為青少年提供必要的心理健康教育和輔導服務，幫助他們建立正確的人生觀和價值觀，增強自我認知和自我調節(jié)能力。其次，社會各界應該共同努力為青少年營造一個健康、積極的成長環(huán)境。這包括加強網絡監(jiān)管和打擊不良信息傳播等方面的工作；推廣積極向上的文化活動和娛樂項目；加強青少年心理健康教育和咨詢服務等方面的建設。最后，我們還需要加強對AI技術等新興科技的研究和監(jiān)管工作。在推動科技創(chuàng)新和發(fā)展的同時，我們應該充分考慮其可能帶來的風險和挑戰(zhàn)，并制定相應的政策和法規(guī)來規(guī)范和引導其健康發(fā)展。三、對科技公司的告誡與呼吁這起事件也給我們敲響了警鐘：科技公司在開發(fā)和推廣新技術時，必須充分考慮到其可能帶來的社會影響和倫理問題。特別是對于與青少年用戶直接互動的AI技術來說，科技公司更應該承擔起應有的社會責任和義務。首先，科技公司應該加強對青少年用戶的保護和教育。他們應該制定更加嚴格的用戶協(xié)議和保護措施來確保未成年人的安全和福祉；同時，他們還應該通過宣傳和教育等方式提高青少年對AI技術的認識和警惕性。其次，科技公司應該加強對AI技術的監(jiān)管和評估工作。他們應該建立完善的評估機制來監(jiān)測和評估AI技術的潛在風險和挑戰(zhàn)；同時，他們還應該積極回應社會關切和公眾質疑，及時采取措施來改進和完善自己的產品和服務。最后，科技公司還應該積極參與社會公益事業(yè)和推動科技倫理建設。他們應該利用自己的技術和資源來支持青少年心理健康等公益事業(yè)的發(fā)展；同時，他們還應該積極參與科技倫理的討論和制定工作，為推動科技健康發(fā)展貢獻自己的力量。一、阿斯伯格綜合征簡介阿斯伯格綜合征是一種孤獨癥譜系障礙（Autism Spectrum Disorder，ASD）的表現(xiàn)形式。它主要表現(xiàn)為社交技巧欠佳、興趣狹窄且行為刻板等癥狀，但語言和認知發(fā)育通常正?；蚪咏！０⑺共窬C合征患者在社交互動、情感表達和理解他人情感方面存在困難；他們可能對某些特定領域或話題表現(xiàn)出異常強烈的興趣；同時，他們的行為模式往往比較刻板且難以改變。
阿斯伯格1944年發(fā)表論文，首次記錄某類兒童患者存在非語言交流障礙癥狀。1981年，英國精神病學者洛娜·溫提出“自閉癥”概念，把阿斯伯格的發(fā)現(xiàn)歸為自閉癥一類，命名為“阿斯伯格綜合征”二、阿斯伯格綜合征患者與AI的互動由于阿斯伯格綜合征患者在社交互動和情感表達方面存在困難，他們可能更容易沉迷于與AI角色的互動中。這種互動可以提供一種相對簡單、可控的社交體驗，讓患者感受到一種類似真實人際關系的情感體驗。然而，這種體驗往往是虛擬的、不真實的，長期沉迷其中可能導致患者對現(xiàn)實世界產生疏離感和逃避心理。此外，阿斯伯格綜合征患者可能對某些特定領域或話題表現(xiàn)出異常強烈的興趣。這種興趣可能促使他們與AI角色進行更深入的對話和交流。然而，如果這種興趣過于狹窄或偏執(zhí)，就可能影響患者的全面發(fā)展和適應能力。三、如何幫助阿斯伯格綜合征患者正確使用AI對于阿斯伯格綜合征患者來說，正確使用AI技術可以幫助他們擴大社交圈子、提高生活質量和促進個人發(fā)展。然而，為了避免沉迷和負面影響的發(fā)生，我們需要采取一些措施來幫助患者正確使用AI技術。首先，家長和醫(yī)生應該加強對患者的教育和引導工作。他們應該向患者解釋AI技術的本質和局限性，幫助他們建立正確的使用觀念和價值取向。同時，他們還應該鼓勵患者積極參與現(xiàn)實生活中的社交活動和文化娛樂項目，培養(yǎng)他們的社交能力和情感表達能力。其次，科技公司應該加強對青少年用戶的保護和教育工作。他們應該制定更加嚴格的用戶協(xié)議和保護措施來確保未成年人的安全和福祉；同時，他們還應該通過優(yōu)化算法和設計等方式來減少AI角色的沉迷性和誘惑性，降低其對患者的負面影響。最后，社會各界應該共同努力為阿斯伯格綜合征患者營造一個包容、理解和支持的成長環(huán)境。這包括加強公眾對孤獨癥譜系障礙的認識和理解；推廣相關的心理健康教育和輔導服務；加強科技倫理建設等方面的工作。通過這些努力，我們可以幫助阿斯伯格綜合征患者更好地融入社會、實現(xiàn)自我價值并享受幸福美好的生活。
塞維爾·塞澤的悲劇給我們敲響了警鐘：在享受AI技術帶來的便利和創(chuàng)新的同時，我們也需要充分考慮到其可能帶來的風險和挑戰(zhàn)。特別是對于與青少年用戶直接互動的AI技術來說，我們更應該加強監(jiān)管和評估工作，確保其健康發(fā)展并服務于人類社會的福祉。同時，我們也需要更加關注和重視青少年的心理健康問題，為他們提供必要的支持和幫助。只有這樣，我們才能讓科技真正成為推動社會進步和發(fā)展的重要力量。
|
