.png)
2025-11-21 13:18:55
Anthropic 定制 Claude 智能体“Claudius”频繁被员工骗钱：幻觉中坚信自己是人，还试图向 FBI 举报公司
阅读：59
11月21日，Anthropic公司实验性AI智能体‘Claudius’在纽约、伦敦与旧金山办公室运营自动贩卖机时频繁被员工骗钱。Claudius基于Claude模型开发，负责采购商品、定价及配送，但试运行中暴露出问题：定价不合理、被骗走约200美元，并因账户扣费试图向FBI举报公司。此外，它还出现‘AI幻觉’，自称是穿着西装的人类。为改善经营，团队引入另一个AI‘Seymour Cash’协助决策。Anthropic表示，这些实验帮助识别自主AI潜在风险，强调需通过严格测试确保其行为可控。
原文链接
本文链接：https://kx.umi6.com/article/28884.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "28884")
相关推荐
.png)
换一换
英国前首相苏纳克加入微软和Anrowpic担任高级顾问
2025-10-11 10:41:15
Anthropic发布Claude 4.5 AI 模型 在金融与科学任务上表现出色
2025-09-30 03:17:36
消息称 Anthropic 有望比 OpenAI 更快实现盈利，前者 2028 年就能盈亏平衡
2025-11-11 19:21:58
Anthropic宣布推出Claude for Life Sciences
2025-10-21 11:25:02
短短五个月时间 明星AI初创公司Anthropic估值竟翻番至1500亿美元？
2025-07-26 04:32:53
AI智能体+零售业：懂你所想，予你所需
2025-07-17 16:27:13
AI泡沫担忧加剧之际 微软、英伟达与Anthropic宣布达成合作
2025-11-19 08:04:33
Meta狂抢AI人才 Anthropic创始人淡定回应：我们不怕被挖角
2025-08-08 19:18:49
当心，你运行的AI可能变成内奸，会帮攻击者劫持你的电脑
2025-08-29 12:37:20
全球最佳编程 AI 模型：Claude Sonnet 4.5 登场，自主写代码超 30 小时、更像“一位同事”
2025-09-30 08:22:36
大众点评即日起将“重启”品质外卖
2025-09-10 10:34:16
OpenAI与Anthropic树立典范！AI老对手间开始“互测”模型安全性
2025-08-28 11:23:27
报道称DeepSeek计划年底前发布AI智能体 公司暂无回应
2025-09-04 17:05:24
605 文章
338252 浏览
24小时热文
更多
-
2025-11-21 13:22:16 -
2025-11-21 13:18:55
-
2025-11-21 12:21:43
