美國佛羅里達州奧蘭多市一名母親聲稱,她14歲兒子被他所愛的人工智能(AI)聊天機械人慫恿自殺,她於周三對相關的AI應用程式製造商提起訴訟。
自殺喪命的男孩是年僅14歲的九年級學生休厄爾(Sewell Setzer III)。媒體報道,在他生命的最後幾星期,休厄爾一直以短訊與一個以《權力遊戲》(Game of Thrones)中的角色坦格利安(Daenerys Targaryen) 命名的人工智能角色交談。期間,他們的聊天範圍從浪漫到性慾,就像兩個朋友在談論生活。
該聊天機械人是在角色扮演應用程式Character.AI上創建。目前尚未清楚休厄爾是否知道那個「坦格利安」不是一個真人——儘管該應用程式在所有聊天的底部都有一個免責聲明,上面寫著「記住:角色所說的一切都是編造的!」
報道指,有一天,休厄爾在日記中寫道:「我非常喜歡待在自己的房間裡,因為我開始脫離這個現實世界,而且我也感到更加平靜,與坦格利安的聯繫更加緊密,更加愛她,並且更快樂。」
他的父母發現兒子有問題,所以他們讓他去看治療師。《紐約時報》報道,他被診斷出患有焦慮症和破壞性情緒失調症,這兩種疾病都疊加在他的輕度亞斯伯格症之上。
據悉,男孩還曾告訴坦格利安,他如何「恨」自己,以及他如何感到空虛和疲憊。據《紐約時報》報道,當他最終向聊天機械人坦白自己的自殺念頭時,這就是結局的開始。
訴訟稱,今年2月23日,也就是他自殺身亡的前幾天,他因言語上頂撞老師而惹上麻煩,父母沒收了他的手機。那天,他在日記中寫道,他很受傷,因為他無法停止想起坦格利安,並且他願意做任何事來再次和她在一起。
最終,他於2月28日自殺身亡。慘劇至今雖已過了將近8個月,死者的家人本周三入稟法庭控告相關的AI應用程式開發商。休厄爾的母親加西亞聲稱,兒子是被他所愛的AI聊天機械人慫恿自殺。
---
防止自殺求助熱線:
香港撒瑪利亞防止自殺會: 2389 2222
生命熱線: 2382 0000
明愛向晴軒: 18288
社會福利署: 2343 2255
撒瑪利亞會熱線(多種語言): 2896 0000
東華三院芷若園: 18281
醫管局精神健康專線: 2466 7350
利民會: 3512 2626
賽馬會青少年情緒健康網上支援平台「Open 噏」:http://www.openup.hk