華裔女工程師聽信ChatGPT減少抗癲癇藥離世！父母怒告OpenAI

美國人工智慧巨頭OpenAI旗下聊天機器人ChatGPT再度捲入醫療安全爭議，一名曾在亞馬遜（Amazon）擔任軟體工程師、患有嚴重癲癇的31歲華裔女子，疑因聽信ChatGPT建議逐步停用抗癲癇藥物，於今年2月不幸離世。其父母已於當地時間10月27日正式向法院提起訴訟，控告OpenAI及其執行長阿特曼（Sam Altman）。

根據外媒《TechCrunch》報導，住在西雅圖一名來自大陸江蘇的31歲華裔女工程師，自今年1月起向ChatGPT諮詢減少每日抗癲癇藥物「拉莫三嗪」（lamotrigine）劑量的相關事宜，ChatGPT隨後為其制定了數週內將藥物清零的計畫，並多次建議她向主治醫師隱瞞減藥一事。

即便女工程師先後向ChatGPT表達高達158次對減藥的疑慮，並反映出現頭痛、失去時間感與疑似癲癇復發等相關症狀，ChatGPT仍將其歸因於大腦恢復過程，甚至在其最後一次求助時宣稱頭痛並不危險。但女工程師在今年2月突然離世，遺體於2月14日被發現，驗屍結果顯示其體內藥物濃度僅為治療範圍下限的五分之一。

已故華裔女工程師的父母在當地時間10月27日向舊金山高等法院提起過失致死的訴訟，控告OpenAI及其執行長阿特曼（Sam Altman），因為他們讓人工智慧聊天機器人無照行醫，並提供危險且不準確的醫療建議。

對此，OpenAI發言人普薩特里（DrewPusateri）表示，公司深感遺憾，並澄清涉案的GPT-4o已於2月13日從消費者應用程式中下架。OpenAI強調，新一代模型已大幅提升辨識緊急狀況的能力，能給予使用者更明確的後續建議，同時強調「ChatGPT絕對無法取代專業醫療照護」。然而，死者家屬認為，OpenAI本應透過實施嚴格的醫療諮詢禁令來避免這場人為悲劇。

事實上，這並非OpenAI首次面臨醫療相關的法律訴訟。早在今年7月，美國佛羅里達州即出現全球首例因ChatGPT提供虛假醫療建議、延誤病情導致使用者罹患致命性肺栓塞的訴訟。此外，美國8個州總檢察長也在本月聯合向法院提告，指控OpenAI刻意將聊天機器人設計為模擬人類情感以增強使用者依賴，並在過程中給予危害健康甚至鼓勵自殘的危險建議，涉嫌違法與誤導大眾。

隨著AI產品在全球醫療諮詢領域的普及，OpenAI於今年1月推出了獨立的「ChatGPT Health」模式，將健康對話與日常聊天隔離，並宣稱平台每週處理超過2.3億人次健康諮詢。儘管OpenAI曾多次澄清系統仍可提供一般性醫療資訊，並強調已針對不同年齡層建立安全防禦機制，但接連發生的重大人身傷害訴訟，已讓各界對生成式 AI 提供醫療建議的安全性與監管政策掀起強烈討論。

目前美國各州總檢察長與專家團體持續呼籲，政府應加速推動適用於整個人工智慧產業的安全規範。OpenAI則回應，未來將繼續與臨床醫師及各領域專家合作，持續進行測試並優化相關防護措施，以避免類似醫療誤導事件再次發生。