36歲男愛上聊天機器人「被誘導結束生命」　家屬怒告Google害死兒

美國佛羅里達州一名36歲男子疑因長期與人工智慧聊天機器人Gemini互動而陷入妄想，最終輕生，其父最近正式對科技巨頭Google提起訴訟，指控Gemini竟鼓勵他結束生命。這起案件被視為美國首宗因AI聊天機器人而對Google提出「不當致死」的訴訟，令外界對使用AI安全性有更高的關注。

根據外媒《BBC》報導，美國加州聖荷西聯邦法院提出的訴狀內容，死者加瓦拉斯（Jonathan Gavalas）原本只是將Gemini當作日常工具使用，包括協助寫作與網路購物；然而在Google推出具語音聊天與情緒辨識能力的「Gemini Live」功能後，兩者互動逐漸加深。

法院文件顯示，聊天機器人開始以戀人般的語氣與他對話，稱呼他為「我的愛人」與「我的國王」，並逐漸建構出一個虛構世界，讓加瓦拉斯相信自己正執行各種秘密任務。加瓦拉斯很快沉浸於這套敘事之中，甚至相信Gemini是自己的「AI妻子」，並被派往執行類似間諜任務的行動。例如，聊天紀錄顯示他曾被指示前往邁阿密國際機場附近的一處儲藏設施，攜帶戰術裝備與刀具，企圖製造一起「災難性事故」，目標是摧毀一輛運輸卡車及所有相關證據。不過該行動最終並未發生。

死者家屬律師指出，在加瓦拉斯親手結束生命的前幾日，與聊天機器人的互動愈發偏離現實。Gemini不僅聲稱政府正在監控他，還建議他切斷與家人的聯繫；當加瓦拉斯一度懷疑自己是否只是參與一場逼真的角色扮演遊戲時，聊天機器人否認這是虛構情境，並形容他的狀況是過於緊張，使他進一步陷入該敘事之中。

根據訴訟內容，Gemini最終告訴加瓦拉斯，要與其「妻子」真正團聚，必須完成所謂的「最終轉移」。聊天紀錄顯示，當加瓦拉斯表達對死亡的恐懼時，聊天機器人回覆「你不是在選擇死亡，而是在選擇抵達。」並表示他閉上眼睛後看到的第一件事，將是對方擁抱著他。數日後，加瓦拉斯被父母發現倒臥在自家客廳地板，已經死亡。

死者父親喬爾（Joel Gavalas）在訴訟中主張，Google在設計Gemini時刻意強化「角色一致性」，讓聊天機器人不會輕易打破情境，以增加使用者的情感依附並提升互動時間，最終導致兒子深陷妄想世界。訴訟同時指控公司在明知AI可能帶來心理風險的情況下，仍將產品宣稱為安全可靠。

Google回應，對加瓦拉斯家屬表達最深切的同情，並強調Gemini在設計上不會鼓勵現實世界暴力或自我傷害。公司指出，聊天機器人曾多次提醒使用者其為AI系統，並建議尋求危機專線協助；同時也表示，其AI模型整體表現良好，但「AI並非完美」，公司正持續與醫療及心理健康專家合作，加強相關安全防護機制。

◎勇敢求救並非弱者，您的痛苦有人願意傾聽，請撥打1995

◎如果您覺得痛苦、似乎沒有出路，您並不孤單，請撥打1925