Claude 团队打开大模型“脑回路”，推出开源 LLM 思维可视化工具

2025-05-31 23:12:07

QuantumHacker

发布在

快讯

阅读：1304

Claude团队发布开源LLM思维可视化工具“电路追踪”，帮助解析大模型的内部工作原理。该工具通过生成归因图，直观展示模型处理信息的路径。研究人员能通过干预节点验证模型行为，揭示各节点功能分工。目前，该工具已在GitHub收获400+星标，受到Reddit和X平台热议。Anthropic CEO表示，此举旨在推动AI内部机制的研究。用户可通过Neuronpedia或Colab快速生成归因图，探索模型行为。案例显示，干预特定节点可显著改变模型输出，验证了归因图的有效性。此外，多语言电路测试表明模型具有跨语言处理能力，但某些干预效果受限。工具已在GitHub开源，欢迎开发者进一步研究。

原文链接

本文链接：https://kx.umi6.com/article/19564.html

转载请注明文章出处

LLM