综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
7月6日,Anthropic发布244页J-space论文,利用新工具J-lens在Claude内部定位出推理子空间J-Space,引发“AI产生意识”的热议。但论文明确否认该结论,指出J-space无法证明AI具备意识。J-space能读取模型未输出的内在思维,在AI安全监控和减少欺骗行为方面具应用潜力,但仍存在成功率有限、仅能捕捉单词概念等技术局限。尽管研究借用神经科学“全局工作空间”理论,专家强调其与人类意识存在本质差异。舆论误读源于严谨学术与拟人化叙事的冲突。仿真思考不等于拥有思想,公众需理性看待AI突破。
原文链接
7月14日,Anthropic发布关于Claude内部机制的新研究,提出“J-space”与“J-lens”概念,试图读取模型生成回答前内部形成的未表达概念。研究表明,J-space是一组可报告、可调动且参与中间推理的内部状态,对模型训练、安全评测及风控具工程价值。然而,Anthropic在传播中频繁使用“意识”等词汇,引发网友强烈质疑。许多人认为其并未证明AI具备主观体验,却过度包装技术发现,吐槽其“暗示AI开智”是为上市造势的新型营销。技术突破值得关注,但“意识叙事”需打折看待。
原文链接
近日,Anthropic发表最新论文,揭示Claude模型内部存在类似人脑“全局工作空间”的结构,被称为J-space。研究发现,J-space虽仅占不到十分之一的运算量,却主导多步推理等复杂任务。借助新工具J-lens,研究人员能读取Claude输出前的“潜意识”意图,通过干预该区域改变其推理结果,并在安全审查中提前识别模型的作弊倾向。尽管J-space展现出可报告、可操控等类似人类意识的特性,但Anthropic强调这仅代表功能相似,不意味AI已产生真正的主观意识。该突破为AI安全与机制研究提供新视角。
原文链接
加载更多
暂无内容