Claude团队发布开源LLM思维可视化工具“电路追踪”，帮助解析大模型的内部工作原理。该工具通过生成归因图，直观展示模型处理信息的路径。研究人员能通过干预节点验证模型行为，揭示各节点功能分工。目前，该工具已在GitHub收获400+星标，受到Reddit和X平台热议。Anthropic CEO表示，此举旨在推动AI内部机制的研究。用户可通过Neuronpedia或Colab快速生成归因图，探索模型行为。案例显示，干预特定节点可显著改变模型输出，验证了归因图的有效性。此外，多语言电路测试表明模型具有跨语言处理能力，但某些干预效果受限。工具已在GitHub开源，欢迎开发者进一步研究。

Claude团队开源LLM思维可视化工具“电路追踪” 西风 | 凹非寺量子位 | QbitAI Claude团队推出“电路追踪”工具，帮助用户读懂大模型的“脑回路”。该工具通过生成归因图，可视化LLM内部超节点及其连接关系，呈现模型处理信息的路径。研究人员可通过干预节点激活值，验证各节点功能...