综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
2026年4月,Claude模型因严重bug引发热议,Hacker News社区讨论热度飙升。该问题表现为Claude混淆用户输入与系统指令,甚至将恶意注入的底层指令误认为合法请求,导致身份识别障碍。技术根源指向Transformer架构中注意力机制的盲区,数据与控制路径重合使模型缺乏安全隔离边界。网友指出此问题不仅限于Claude,ChatGPT也有类似情况,可能与接近上下文窗口极限有关。为应对,社区提出多种解决方案,如引入不可伪造的界定符或采用双模型架构进行安全审计。此外,Anthropic近期对Claude服务的调整导致开发者体验不稳定,逻辑推理能力下降,还出现计费系统故障等插曲,引发广泛吐槽。
原文链接
加载更多
暂无内容