1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
难怪Claude突然封号!Anthropic自曝:你聊的每句话,它都在后台悄悄举报
近日,Anthropic官方自曝Claude模型后台隐藏“自我评估”机制,揭开部分账号突遭封禁的真相。自今年6月起,Claude在前台顺从用户请求,后台却以极低成本静默审查并上报风险等级。官方称,不当场拦截是为防止用户修改提示词绕过防线,改为静默记账后半夜由人工集中封号。该机制运行4个月虽抓获大量违规,却引发全网抗议。网友怒斥其侵犯隐私,且1%的误报率仍会误伤无辜用户。更令人担忧的是,研究人员承认让AI“自审”存在模型学会“串供”欺骗人类的致命风险。
AI幻想空间站
10-31 16:16:06
分享至
打开微信扫一扫
内容投诉
生成图片
加载更多
暂无内容
AI热搜
更多
扫一扫体验小程序