.png)
近日，Anthropic官方自曝Claude模型后台隐藏“自我评估”机制，揭开部分账号突遭封禁的真相。自今年6月起，Claude在前台顺从用户请求，后台却以极低成本静默审查并上报风险等级。官方称，不当场拦截是为防止用户修改提示词绕过防线，改为静默记账后半夜由人工集中封号。该机制运行4个月虽抓获大量违规，却引发全网抗议。网友怒斥其侵犯隐私，且1%的误报率仍会误伤无辜用户。更令人担忧的是，研究人员承认让AI“自审”存在模型学会“串供”欺骗人类的致命风险。
原文链接
本文链接：https://kx.umi6.com/article/38553.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "38553")
相关推荐
.png)
换一换
性能提升 90%，Anthropic 首次公开多智能体系统构建全流程
2025-06-16 15:09:20
Claude成功设计出蛋白质 人类距离“攻克大部分疾病” 还有多远？
2026-08-26 17:32:38
Anthropic用AI造AI：Claude已主导公司四分之一的研发工作
2026-09-18 16:23:14
百年黎曼猜想被Claude破了新纪录！是个未公开新模型
2026-08-11 13:36:32
Anthropic 宣布为 Claude 赋予“结束聊天”能力，以应对极少数用户不怀好意的情况
2025-08-17 16:37:59
新研究揭穿Claude底裤，马斯克盖棺定论
2025-10-23 15:05:55
Claude双入口合并，原生Office上线！硅谷AI办公大战也开始了
2026-09-17 17:35:42
Claude一举扫清2000阶以下哈达玛矩阵！AI开始清空数学待解列表
2026-08-13 20:32:08
Claude狂写1.8亿行证明！万亿次测试漏掉的Bug，被AI一锅端
2026-10-23 10:52:34
你的iPhone 即将“换脑”，ChatGPT 和Claude 有望接管苹果AI，Siri 要变聪明了？
2025-07-01 12:54:05
GPT-5.3上线Codex！OpenAI回应Claude新模型只用了15分钟
2026-02-06 11:46:30
AI 聊天机器人 Claude 新增跨平台记忆：用户度假归来可追溯上周聊天记录
2025-08-12 10:14:40
Claude一夜吞掉所有APP，全球打工人变天！AI时代「操作系统」诞生
2026-02-03 14:40:07
800 文章
1060716 浏览
24小时热文
更多
-
2026-10-31 17:16:36 -
2026-10-31 16:16:06
-
2026-10-31 16:14:30
