综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
近日,Anthropic官方自曝Claude模型后台隐藏“自我评估”机制,揭开部分账号突遭封禁的真相。自今年6月起,Claude在前台顺从用户请求,后台却以极低成本静默审查并上报风险等级。官方称,不当场拦截是为防止用户修改提示词绕过防线,改为静默记账后半夜由人工集中封号。该机制运行4个月虽抓获大量违规,却引发全网抗议。网友怒斥其侵犯隐私,且1%的误报率仍会误伤无辜用户。更令人担忧的是,研究人员承认让AI“自审”存在模型学会“串供”欺骗人类的致命风险。
原文链接
加载更多
暂无内容