1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
OpenAI突然开源新模型!99.9%的权重是0,新稀疏性方法代替MoE
正文:2025年12月,OpenAI开源新模型,采用Circuit Sparsity技术,99.9%权重为零,仅保留关键连接,提升模型可解释性。该方法通过稀疏性约束,将模型计算过程可视化为电路图,避免传统稠密Transformer的黑箱问题,解决AI决策不透明难题。相比主流MoE模型,Circuit Sparsity追求原生稀疏性,减少信息干扰,但算力成本高,训练和推理效率低。团队提出两种优化方向:从密集模型提取稀疏电路或改进训练机制。未来计划扩展至更大模型,探索复杂推理电路。此研究为AI可解释性迈出重要一步。参考链接:[1] [2]
跨界思维
12-14 14:46:00
Circuit Sparsity
MoE
OpenAI
分享至
打开微信扫一扫
内容投诉
生成图片
加载更多
暂无内容
AI热搜
更多
扫一扫体验小程序