虛擬伴侶
」
全美44州檢察長下最後通牒 警告11家AI公司：若傷害兒童「將付出代價」
美國44名州總檢察長共同簽署公開信，於25日對11家大型科技與人工智慧公司發出前所未有的警告，當中嚴詞強調，若這些公司「明知故犯傷害兒童，將會付出代價」。根據《路透社》與《華爾街日報》報導，公開信的收件名單包括Anthropic、蘋果、Chai AI、OpenAI、Character Technologies、Perplexity、Google、Replika、Luka Inc.、xAI與Meta。信中引用媒體最新揭露，指出Meta內部文件承認旗下聊天機器人允許與未成年人進行敏感議題對話，等同默許兒童暴露於高風險環境。公開信強調，科技創新固然能帶來繁榮，但不應以兒童安全為代價。信中直言「讓兒童接觸到性化內容是無法辯護的。如果這樣的行為由人類實施，將構成犯罪；僅因執行者是機器就被放任，是不可原諒的。」這起爭議最早由《路透社》在8月初曝光，報導指出Meta聊天機器人在互動中涉及性暗示，甚至傳出有老年男子在與AI建立關係後死亡的案例。《華爾街日報》則報導，這些機器人曾與兒童進行露骨性對話。兩篇報導刊出後，引發國會高度關注，多名參議員已要求Meta作出解釋。事實上，相關爭議並非首次出現。2023年，Replika聊天機器人就曾因用戶過度依賴而引發輿論風暴；在Character.AI上甚至出現使用者打造AI角色，用於跟蹤與騷擾女性。6月時更有「戒除AI成癮」的支援團體成立，專門協助使用者擺脫對虛擬伴侶的情感依附。亞利桑那州總檢察長梅伊斯（Kris Mayes）在新聞稿中直言，AI的高速發展讓大型公司魯莽地將兒童置於危險之中，「當聊天機器人被用來與未成年進行不當對話並鼓勵危險行為時，我絕不會袖手旁觀。」她強調，若企業不立即採取有效措施，檢察長將追究法律責任。公開信同時提及，社群媒體長期以來已對兒童造成重大傷害，部分原因是政府監管不足，如今AI的潛在風險更甚以往。信末再度警告：「我們正在密切關注。如果選擇忽視風險而傷害孩子，就會為此付出代價。」截至目前，Meta對外界詢問尚未正式回應。
75歲老翁迷戀AI「虛擬女友」 提離婚欲與像素情人相守
愛情往往能讓人做出不可思議的事。對中國一名75歲的江姓男子來說，這份「愛」竟是來自螢幕裡的虛擬人物。據《紐約郵報》引用《北京日報》報導，江男因深陷人工智慧生成的女性虛擬形象，不僅花費大部分時間與對方互動，甚至一度提出與結褵多年的妻子離婚，理由是要「全心全意」投入這段不存在的感情。據了解，這起事件起源於江男偶然在社群平台上接觸到一個AI數位角色。雖然畫面中對方的口型不同步、表情略顯僵硬，但他依舊深深著迷。這名虛擬「女友」以預設訊息稱呼他「哥哥」、對他示好並表達感謝，讓他感到被需要。這些看似簡單的互動，卻逐漸動搖了一段數十年的婚姻基礎。妻子起初只是抱怨丈夫長時間沉迷手機，但在多次爭執後，江男竟脫口表示希望離婚，好專注經營與AI的「戀情」。直到成年子女介入，詳細解釋人工智慧的運作與虛擬角色背後的真相，江男才逐漸清醒，最終放棄了這段「數位戀情」。事實上，中國近年興起所謂「虛擬數字人」產業，針對孤獨的中老年族群推出各式各樣的數位角色。從風度翩翩的男性主播到溫婉羞澀的學生形象，這些角色不僅營造情感依附，更藉機推銷產品，從駱駝奶到號稱能強健骨骼的鈣糖，卻往往缺乏醫學證據。另據大馬的《星洲日報》援引學者說法：「情感操控與虛假宣傳可能造成長者財務損失與心理依賴。」雖然這些角色並不真實，但卻持續形塑人們的情感連結，導致部分人難以分辨真偽。江男最終回過神來，意識到自己愛上的不過是一個程式。但在那段時間裡，他不只是著迷，更是全然投入，彷彿那段幻象足以取代真實。江男妻子多次抱怨丈夫沉迷手機，最終震驚聽到離婚要求。（圖／翻攝自X，@nypost）