【推翻十年共识！AI不是黑箱，99%神经元清晰可见】10月15日，OpenAI早期可解释性研究科学家Nick Cammarata发表万字长文，推翻了自己十年前“AI神经网络是不可解释黑箱”的经典结论。他指出，过去认为神经元逻辑混乱实为观测工具低级所致。借助新算法，他发现现代视觉模型中99%以上的神经元清晰可读，网络内部呈现连贯的“递归泛化”结构，远比想象中“干净”。OpenAI研究员roon称此为“科学史重要时刻”，将极大降低AI对齐门槛。尽管DeepMind专家对大语言模型的适用性提出质疑，但该研究仍预示着AI可解释性领域或将迎来“大道至简”的新范式。

标题：Anthropic连发两篇论文，AI“黑盒子”被打开了？ 人工智能（AI）模型因非编程训练而成，被视为“黑盒子”，我们对其内部运作知之甚少。理解大语言模型（LLM）的思考方式有助于优化其性能并确保其可靠性。 Anthropic公司提出了一种新方法，通过借鉴神经科学，构建类似“显微镜”的工具来追...