综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
10月21日消息,据曝料,曾任职月之暗面的17岁天才少年陈广宇已加入美国AI初创企业Discovery Loop。该公司于2026年8月成立,旨在打造科研AI工具,创始班底包含谷歌前首席科学家杰夫·迪恩等多位谷歌AI资深老将。陈广宇生于2009年,凭自学大模型崭露头角,曾在Kimi团队作为第一作者发布获马斯克公开点赞的论文,该技术成为Kimi K3底层支撑之一。他已于10月15日正式宣布离开Kimi,并透露将前往硅谷湾区。不过,该入职传闻暂未获其本人正式确认。
原文链接
2026年3月,Kimi团队发布了一项名为Attention Residuals的创新技术,将注意力机制应用于深度维度,显著提升模型效率。该技术通过‘选择性回忆’前层信息,解决了传统残差连接的‘记忆负担’问题,并利用分块压缩方法降低计算复杂度。在Kimi Linear 48B大模型上验证,训练效率提升25%,推理延迟增加不到2%。论文引发广泛关注,包括马斯克和AI领域专家Karpathy的高度评价。值得一提的是,论文共同一作之一是17岁高中生陈广宇,他从北京黑客松起步,逐步深入大模型研究,最终加入Kimi团队并参与核心研发。这项成果展示了‘时间-深度对偶性’的应用潜力,为深度学习优化提供了新方向。
原文链接
加载更多
暂无内容