OpenAI 将在欧盟为 ChatGPT 和 Codex 文本输出添加隐形水印

IT之家 10 月 5 日消息，OpenAI 今日宣布，为配合《欧盟人工智能法案》的内容透明要求，未来几周将在欧盟地区符合条件的 ChatGPT 和 Codex 文本输出中加入机器可识别的隐形水印。 据介绍，文本水印技术名为 textGrain（文本粒水印） ，会在模型选词过程中嵌入不可见的统计信号。检测器通过识别该信号，判断一段文本是否带有 OpenAI 水印。 IT之家注意到，OpenAI 下一步将在欧盟推广文本水印。未来几周，团队将仅在欧盟所有计划中向符合条件的 ChatGPT 和 Codex 用户引入文本水印功能。值得一提的是，OpenAI 不会在发布时将文本水印设为全球默认。 OpenAI 将为 API 客户启用选择加入的水印功能。从今天起，全球的 API 客户将能够选择为部分模型添加水印文本输出。这让客户能够决定水印如何符合其透明度义务以及为用户提供的体验。团队还在与云合作伙伴合作，在未来几周内为通过其服务访问的 OpenAI 模型输出提供水印功能。 OpenAI 还将为研究人员和专家组织提供探测器访问，获批的研究人员和专家组织可以申请从今天开始。根据行为准则访问最初将根据具体情况逐案授予，以支持文本来源的评估和改进。该工具会报告是否检测到 OpenAI 水印，但不会透露用户身份或提示内容或对话内容。