6月2日，Anthropic公司正式开源了新一代神经网络追踪工具，该工具能生成归因图直观展示AI模型处理提示词的具体过程，帮助研究人员解析大模型内部推理机制。此工具配合Neuronpedia前端平台，用户可通过网页互动并查看示例笔记本，了解Gemma-2-2b和Llama-3.2-1b等模型的工作原理。Anthropic CEO Dario Amodei强调，提升大模型的可解释性是行业关注重点，这一开源工具将推动社区参与，助力开发者理解模型行为逻辑。

标题：从归因图到AI的“生物学”：探索Claude3.5 Haiku的内部机制 正文： 在人工智能领域，大语言模型（LLMs，如Claude 3.5 Haiku）已展现强大语言处理能力，但其内部机制仍似“黑箱”。Anthropic团队通过“归因图”新方法揭示模型从输入到输出的计算步骤，部分解...

Claude团队开源LLM思维可视化工具“电路追踪” 西风 | 凹非寺量子位 | QbitAI Claude团队推出“电路追踪”工具，帮助用户读懂大模型的“脑回路”。该工具通过生成归因图，可视化LLM内部超节点及其连接关系，呈现模型处理信息的路径。研究人员可通过干预节点激活值，验证各节点功能...

标题：Anthropic AI 揭示大模型中的注意力回路 近日，Anthropic 发布了一种新的研究方法，用于揭示语言模型内部的底层工作机制。该方法通过构建归因图谱，解析模型如何处理特定输入。例如，在面对“Fact: Michael Jordan plays the sport of __”时...