OpenAI近期揭露了一项能精确识别AI生成内容的技术，准确率高达99.9%，旨在阻止学生利用ChatGPT完成作业或撰写研究论文的情况。然而，这一工具的发布引发了内部争议，OpenAI员工在透明度承诺与用户保留之间的权衡上犹豫不决。在一项内部调查中，约30%的ChatGPT用户表示，反作弊技术的引入会促使他们减少使用该服务。OpenAI高管对此持谨慎态度，担忧技术可能对非英语母语用户产生不利影响。尽管如此，一些员工仍坚持认为，该工具带来的益处远超潜在风险。 纽约市高中英语与新闻学教师Alexa Gutterman指出，AI作弊现象已经成为一个紧迫问题。根据民主与技术中心的调查，超过一半的初中和高中教师已发现学生使用AI辅助完成作业。OpenAI CEO Sam Altman和CTO Mira Murati参与了讨论，但最终未推动工具的发布。 ChatGPT的底层技术能够预测句子中的下一个单词或语句片段。OpenAI正在开发的文本水印方法通过微调预测过程，为生成的内容创建一种不可见的标记。该水印经过训练后，能够识别出99.9%由ChatGPT生成的文本。然而，存在通过翻译或添加表情符号等方式清除水印的可能性。OpenAI正考虑将检测器提供给教育工作者或外部企业，以帮助识别AI撰写的论文和抄袭作品。谷歌也开发了类似的工具SynthID，但仍在测试阶段。OpenAI优先考虑音频和视觉水印，以应对即将到来的选举年所带来的潜在威胁。尽管面临争议，OpenAI认为该技术有助于维护学术诚信，但仍需谨慎处理。