OpenAI将在欧盟为ChatGPT文本添加隐形水印以合规
原文：OpenAI will start watermarking ChatGPT’s text in the EU
OpenAI 周一在一篇博客文章中表示，为遵守欧盟《人工智能法案》，将开始在欧盟境内为 ChatGPT 和 Codex 生成的文本添加不可见水印。欧盟《人工智能法案》的透明度规则已于 8 月 2 日生效，要求 AI 公司以其他系统可识别的方式标记 AI 生成内容。OpenAI 表示，该水印将在未来几周内面向所有套餐的符合条件的 ChatGPT 和 Codex 用户推出，但仅限于欧盟地区。全球各地使用 OpenAI API 的开发者从今天起可为部分模型开启该功能；该功能默认关闭。OpenAI 表示，在推出初期不会将文本水印设为全球默认。该水印并非一个实际符号，而是通过微妙地影响模型的用词选择来运作，留下一种读者无法看见、但检测器可以识别的模式。由于它存在于文字本身之中，因此在文本被复制粘贴时也会随之保留。OpenAI 表示，该水印不会识别用户身份，并且在其开启后未发现模型性能出现明显变化。OpenAI 还在发布公告的同时公布了其方法的技术报告，该方法名为 textGrain。该报告与宾夕法尼亚大学和耶鲁大学的研究人员合著，通过一个示例展示了如何使用密钥对下一个词的预测进行排序以完成句子。将数百次这样的微调叠加起来，检测器仅凭文本和密钥就能识别出 AI 生成内容。水印能否通过编辑去除？OpenAI 的测试表明可以。在一项测试中，将 10% 的词语替换为同义词后，检测率从约 92% 降至 66%。该公司还表示，短段落、数学答案和翻译文本更难被检测出来。该公司表示：“这些局限性促使我们决定，初期仅向经过批准的研究人员和专家组织提供检测器访问权限，他们可以帮助我们评估可靠性和负责任的使用方式。”OpenAI 还警告称，缺少水印“并不能证明内容由人类撰写”。