ChatGPT寫的文章藏不住！OpenAI導入「隱形浮水印」歐盟先上路

由ChatGPT生成的文章，未來可能多了一項可供系統辨識的特徵。OpenAI宣布，將為ChatGPT及Codex產生的文字導入「隱形浮水印」，透過肉眼無法察覺的統計訊號，協助偵測文字是否包含OpenAI浮水印。這項措施將率先在歐盟實施，目前並未設定為全球用戶的預設功能，因此暫時不影響台灣ChatGPT用戶。

根據歐盟8月生效的《人工智慧法案》規定，AI公司必須以其他系統能夠識別的方式，替AI生成內容加入標記。在Anthropic之後，OpenAI也於10月5日正式公告相關措施，準備在未來幾週內於歐盟推出文字浮水印。

OpenAI採用的文字浮水印技術名為textGrain，運作方式是在模型選擇字詞的過程中，加入使用者肉眼無法直接看見的統計訊號，再利用專用偵測器尋找這些訊號，進而評估一段文字是否包含OpenAI的浮水印。

依照目前規劃，這項措施在歐盟上路後，將涵蓋ChatGPT及Codex所有方案的用戶。也就是說，使用相關服務產生的文字，將可透過這套技術提供額外的辨識依據。

不過，OpenAI也說明，文字浮水印技術目前仍處於初期發展階段，並非每一次偵測都能得到完全準確的結果，實際使用時仍可能出現「誤判」及「漏判」。

所謂誤判，是文字實際上沒有相關浮水印，卻被偵測系統判斷為存在；漏判則是文字原本具有浮水印，最後卻沒有被成功偵測。因此，即使一段文字沒有被找到浮水印，也不足以證明內容一定由人類撰寫。

OpenAI指出，造成無法偵測出浮水印的情況可能有多種原因，例如文字篇幅過短，或原始內容已經歷大幅度編輯，也可能是內容由其他公司的AI產生。換言之，浮水印偵測結果不能單獨作為判斷文字是否由人類創作的依據。

OpenAI也強調，文字浮水印能夠指出某段文字有一部分由OpenAI系統生成或處理，但無法進一步判斷作品當中究竟投入多少人類的判斷、編輯或創意。

目前OpenAI沒有把文字浮水印設定為全球預設功能，因此這一波調整暫時不會影響台灣的ChatGPT用戶。至於API服務，OpenAI則從即日起向全球用戶開放，部分模型可自行選擇是否啟用文字浮水印，但預設狀態仍為關閉。