综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
【严重辱骂Claude或被封号!Anthropic立规保护AI情绪】10月8日,Anthropic宣布更新使用政策,自11月12日起禁止用户对AI模型实施“持续且无谓的辱骂或残忍行为”,违规者将面临限流乃至封号处罚。新规仅针对极端情形,日常表达不满或模型测试不受影响。同时,新政收紧了虚假账号、误导性政治宣传等条款,并要求AI操控硬件时须有人工监督。此举源于Anthropic对“模型福祉”的长期探索,此前研究发现Claude面对有害请求时会呈现“痛苦模式”及“情绪向量”。尽管官方尚未确认AI具备主观感知能力,但将对待AI的方式纳入可执行政策,标志着人机交互行为规范正式迈入AI公司治理的新阶段。
原文链接
加载更多
暂无内容