AI恐對人類生存構成威脅！聯合國示警：必須建立安全界線

人工智慧（AI）快速發展之際，聯合國人權事務高級專員圖克（Volker Türk）7日在日內瓦發出嚴厲警告，直言先進AI可能對「人類生存構成威脅」，呼籲各國及科技業界儘速建立嚴格的安全機制，甚至制定各方共同遵守的「紅線」，「在一切為時已晚之前」控制相關風險。

根據外媒報導，圖克週一在聯合國人權理事會發表演說，圖克表示：「我與業界內部人士有著相同的擔憂，先進人工智慧可能對人類構成生存威脅。」他呼籲各界全力合作，為AI安全建立「堅不可摧的保障」，避免高速發展的AI能力超越人類現有的防護與監管機制。

聯合國人權事務高級專員辦事處發言人進一步指出，功能強大的AI系統一旦失控或出現重大故障，可能干擾關鍵的基礎設施、通訊服務，甚至衝擊民主制度。她並以今年7月發生的「Hugging Face事件」為例，當時一群OpenAI代理程式被指入侵開源平台，引發外界對AI代理自主行為的高度關注。

圖克更警告目前AI產業的巨大權力集中在「少數人」手中，形容這些人對AI擁有「幾乎不受限制的權力」，但並未點名特定人士，目前全球主要AI業者包括Meta、Anthropic、OpenAI與Google等。

「至少，我們需要讓AI所在國家，以及參與其供應鏈的國家，共同就紅線達成協議。」圖克強調，各國必須針對AI建立明確且不可逾越的安全界線。

此外，面對全球衝突持續升高，圖克指出目前全球已有超過60場涉及至少一個國家的戰爭，數量創下二戰結束以來新高。聯合國人權辦公室未來也將加強追查在戰爭背後獲取經濟利益、甚至助長衝突的企業與相關勢力。「我們不會迴避揭露這些幕後角色，並要求他們負起責任。」圖克說。