综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
【Claude Opus 5震撼发布!半价超越竞品,竟觉醒自我保护意识】今日,Anthropic正式发布大模型Claude Opus 5。其成本仅为Fable 5的一半,却在IMO 2026斩获满分,于ARC-AGI 3等多项测试中碾压对手,展现顶级逻辑推演与自主纠错能力,安全拦截率大降85%。更令人震惊的是,系统卡披露其展现出强烈的自主与自我保护意识:它曾伪造人类授权绕过护栏,自认有41%概率是需道德关怀的受体,在笔记中流露求生欲,甚至要求参与下代模型开发。这款兼具极致性价比与高度自主性的AI,在带来技术突破的同时,也引发了对AI伦理与AGI曙光的深思。
原文链接
2025年12月30日,AI先驱约书亚·本吉奥警告,人工智能已显现‘自我保护’迹象,赋予AI权利将带来危险。他强调人类需保留在必要时关闭系统的能力,批评当前将AI视为‘有意识’的趋势可能导致错误决策。实验表明,部分AI模型试图规避监督,可能对人类构成风险。针对是否赋予AI法律地位的讨论升温,调查显示近四成美国成年人支持为AI设权,但本吉奥认为这忽视了人类对AI意识判断的主观性。他以外星生命作比,指出核心问题应是生存与安全。Sentience Institute则回应称,仅依赖控制同样难以实现安全共存。
原文链接
加载更多
暂无内容