OpenAI 公佈文字浮水印技術 歐盟 ChatGPT 及 Codex 先行

OpenAI 公佈其遵守歐盟《人工智能法案》的安排。該法案要求生成式 AI 系統的供應商為 AI 生成的文字加上標記，令其可被識別。OpenAI 表示，這套文字浮水印技術名為 textGrain，會先在歐盟的 ChatGPT 及 Codex 推行，範圍較同類方案有限。 Anthropic 浮水印掀爭議 數月前，Anthropic 宣佈為遵守歐盟《人工智能法案》，Claude 會開始透過微調用字為文字加上浮水印，引發爭議。其做法是每隔一段時間，按一組隱藏模式在同樣適用的詞語之間作出選擇；Anthropic 稱這對回答的意思、質素或可讀性沒有實際影響。該公司亦開發了檢測器，可在文字中尋找這個模式，判斷內容是否可能出自 Claude。由於 Claude 的浮水印以 Anthropic 系統專屬的秘密金鑰產生，檢測器無法用來判斷文字是否來自 OpenAI 或其他競爭對手。爭議最激烈時，Anthropic 強調 Claude 並非唯一，指多家主要 AI 供應商同樣為符合歐盟要求而實施標記系統。 API 選擇加入與歐盟推行 OpenAI 表示，全球 API 客戶即日起可為指定模型選擇加入文字浮水印；該公司亦會在未來數週，為歐盟地區符合資格的 ChatGPT 及 Codex 文字輸出加上不可見浮水印。這意味著 API 的文字浮水印目前仍預設關閉，ChatGPT 及 Codex 則先在歐盟向符合資格的用戶推行。 OpenAI 同時開放文字浮水印檢測器的使用申請，初期只限於獲批的研究人員及專家組織，該公司正評估並改進這項技術。 textGrain 技術原理與檢測 據 OpenAI 說明，text