摘要： 8月5日，OpenAI已研发出一款能精确识别ChatGPT生成文本的工具——"给文本添加水印"，用于检测AI生成内容的源头。这一创新举措旨在应对人工智能工具的滥用，特别是学生利用生成式AI完成作业和撰写论文的现象，引发对学术内容真实性的担忧。OpenAI在一年前就准备好了这套系统，但公司内部对其发布存在分歧，担忧可能损害其商业利益。 OpenAI目前正研究两种方法来解决这一问题：文本水印和文本元数据。文本水印具有高度准确性，但在全局篡改防御上较弱；文本元数据则通过加密签名确保不产生误报。文本水印的误报率随文本量增加而扩大，而元数据方法更具前景。此外，OpenAI还在扩展图像检测工具，利用C2PA元数据标准确保图像编辑时的透明度与来源信息。 SynthID系统由谷歌DeepMind推出，用于标记AI生成的视频和文本，防止内容被用于传播错误信息或创建不当内容。OpenAI也在开发新的来源方法，如防篡改水印和检测分类器，以更有效地保护数字内容完整性，同时不损害ChatGPT文本输出质量。 尽管存在争议，全球多数民众支持使用人工智能检测工具，以遏制学生将作业交给AI的行为。然而，实施水印可能会影响部分用户的使用体验，特别是那些可能因之减少使用ChatGPT的用户。这一创新举措体现了技术在维护学术诚信和促进道德使用AI之间的挑战与机遇。