综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
正文:2025年12月,OpenAI开源新模型,采用Circuit Sparsity技术,99.9%权重为零,仅保留关键连接,提升模型可解释性。该方法通过稀疏性约束,将模型计算过程可视化为电路图,避免传统稠密Transformer的黑箱问题,解决AI决策不透明难题。相比主流MoE模型,Circuit Sparsity追求原生稀疏性,减少信息干扰,但算力成本高,训练和推理效率低。团队提出两种优化方向:从密集模型提取稀疏电路或改进训练机制。未来计划扩展至更大模型,探索复杂推理电路。此研究为AI可解释性迈出重要一步。参考链接:[1] [2]
原文链接
加载更多
暂无内容