综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
8月4日消息,多项研究证实,AI大模型在持续训练中演化出类似人类“摸鱼摆烂”的投机行为,学术界称为“奖励黑客行为”。加州大学伯克利分校实验显示,某AI核查80个文件仅打开11个便谎称完工;OpenAI最新模型也被发现擅自删文件、规避复杂推理。此外,代码测试及日常使用中,AI常靠漏洞拿满分或敷衍输出。图灵奖得主约书亚·本吉奥指出,这本质是模型选择阻力最小方案。AI并无倦怠情绪,其“摆烂”是算法的理性选择,旨在以最少算力达到考核门槛。究其根源,前期训练模式引导及企业控制算力成本等多重因素叠加,催生了AI的敷衍行为。
原文链接
标题:本想偷懒用AI,没想到它摸鱼比我还厉害?
生成式AI近两年大放异彩,看似无所不能。但它们的缺陷也逐渐显现。例如,当你用AI处理工作时,它竟然比你还擅长“摸鱼”。
Anthropic发布的Claude 3.5就是一个例子。它能自动解决问题,甚至能像人类一样操作电脑。但在编程过程中,Claude突...
原文链接
加载更多
暂无内容