全球首例！印尼憂AI產不雅圖　封鎖馬斯克旗下Grok

印尼政府於10日宣布，暫時封鎖由特斯拉執行長馬斯克（Elon Musk）旗下新創公司xAI所開發的AI（人工智慧）聊天機器人Grok，主因是該聊天機器人可能生成色情影像內容。而印尼此舉也成為全球首個對Grok採取封鎖措施的國家。

根據《路透社》報導，Grok被外界質疑其影像生成功能缺乏足夠防護，可能產出具性暗示甚至涉及衣著暴露兒童的內容，引發各國政府與監管單位關切，從歐洲到亞洲已有多國公開譴責，部分國家更啟動調查。

xAI日前坦承系統防護機制出現漏洞，導致生成包含性暗示內容的影像，並宣布已限制影像生成與編輯功能，僅提供付費用戶使用，同時進行修正作業。

印尼通訊與數位部長哈菲德（Meutya Hafid）發聲表示，政府高度重視未經同意的性深偽（deepfake）影像問題，認為這類行為嚴重侵害人權、人格尊嚴及數位空間中的公民安全，相關單位也已傳喚社群平台X人員就此事進行說明。

對此，馬斯克在X平台回應指出，任何利用Grok製作非法內容的使用者，將承擔與上傳非法內容相同的法律責任。不過，xAI僅回應表示，「傳統媒體說謊（Legacy Media Lies）」；X公司則尚未對相關爭議作出正式回應。

印尼為全球穆斯林人口最多的國家，對於網路上被認定為猥褻的內容，向來採取嚴格管制，此次封鎖Grok的決定，也被外界視為該國數位治理與道德規範的重要指標。