综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
4月22日,IT之家报道指出,AI初创公司Rumi发现OpenAI的o3和o4-mini模型中嵌入了窄不换行空格(NNBSP, U+202F)等特殊Unicode字符。这些字符在普通视图下看似普通空格,但在专业工具如SoSciSurvey或Sublime Text中可被检测到。Rumi推测这是OpenAI故意设置的水印,但强调此方法易被绕过且误报率低。此前,OpenAI曾在GPT-4o等模型中未发现此类设置,而这些字符也可能源于模型从训练数据中学到的排版习惯。OpenAI过去尝试过多种水印方案,如DALL・E 3的C2PA元数据及GPT-4o的“ImageGen”标签。行业内,谷歌、微软和Meta也在内容溯源上采用类似技术,但研究显示多数水印技术存在安全隐患。
原文链接
据《科创板日报》8日消息,OpenAI正测试为GPT-4o图像生成模型添加水印的功能。AI研究员Tibor Blaho发现,免费用户生成的图像可能会被测试性地添加ImageGen标识水印。消息人士透露,订阅ChatGPT Plus的用户可以保存无水印的图像,但此计划目前仍处于测试阶段,未来是否正式实施尚未确定。这项举措可能涉及对生成内容真实性的标记,具体细节仍有待官方进一步确认。(Bleeping Computer)
原文链接
4月7日,外媒Bleeping Computer报道,OpenAI正测试为GPT-4o图像生成模型加入水印的新功能。近期,ChatGPT因强大的图像生成能力频繁登上新闻,该模型不仅能生成带文字的图片,还能创作出高度真实的视觉作品,甚至能模仿吉卜力工作室的艺术风格。目前,ImageGen模型已向所有用户开放,但研究员发现,免费用户生成的图片可能带有水印,而ChatGPT Plus订阅用户可保存无水印的图片。OpenAI表示,该模型通过海量图像与文本的联合训练,不仅展现了出色的视觉表现力,还具备上下文理解能力。此外,OpenAI正在开发ImageGen API,以便开发者构建自己的应用。
原文链接
3月17日消息,谷歌推出的Gemini 2.0 Flash模型因其强大的图片去水印功能引发关注。该功能可移除包括盖蒂图片社在内的知名图库水印,并尝试修复水印移除后留下的空白区域。此功能虽表现优异且免费开放,但因缺乏使用限制而受到质疑。目前,Gemini 2.0 Flash模型仍处于实验性阶段,仅限开发者工具内使用。值得注意的是,其他AI模型如Anthropic的Claude 3.7 Sonnet和OpenAI的GPT-4o明确禁止此类操作,认为去除水印可能违反版权法规。尽管如此,Gemini 2.0 Flash在处理特定类型水印时存在一定局限性。截至目前,谷歌未就此事作出官方回应。
原文链接
Google DeepMind团队在《自然》杂志上发表了一种名为SynthID-Text的文本水印方案,该方案能在不影响文本质量的情况下提高AI生成文本的检测精度。AI生成的文本因能模拟人类表达方式而难以检测,但可能含有事实性错误,导致虚假信息传播等问题。SynthID-Text通过一种新方法“锦标赛采样”,在生成文本时嵌入水印,从而有效识别AI生成内容。此技术已在Gemini人工智能模型上进行了大规模测试,结果显示其在保持文本质量的同时提高了水印检测率。
原文链接
加载更多
暂无内容