8月2日，美国科技媒体The Verge副主编亚历克斯·希思解析Meta首席执行官扎克伯格的《个人超级智能宣言》。扎克伯格承认Meta已放弃在ChatGPT核心领域竞争，转而聚焦于利用AI填补用户因生产力提升而获得的空闲时间。他认为，未来人类将减少使用生产力软件，更多时间用于创造和连接。Meta将专注于娱乐、社交和生活方式，强化其注意力经济优势。通过AI技术，Meta计划增强内容推荐、广告精准度和用户互动能力，延长用户停留时间。这一策略契合Meta的核心业务，但也带有反乌托邦色彩。值得注意的是，“个人超级智能”概念曾由Character.AI联合创始人提出，他曾考虑加入Meta。

在2025年ACL颁奖典礼上，DeepSeek梁文锋作为通讯作者与北京大学联合发表的论文获最佳论文奖。该研究提出原生稀疏注意力（NSA）机制，通过算法与硬件协同优化，使长文本处理速度提升11倍，性能超越传统全注意力模型。一作袁境阳透露，技术可扩展上下文至1百万tokens，或用于下一代DeepSeek-V4及R2模型。实验显示，NSA在多项基准测试中表现优异，尤其在复杂推理和代码理解任务中显著领先。此外，大会还评选出其他3篇最佳论文，分别来自北大、斯坦福等团队，涉及模型对齐弹性、公平性差异感知及生成采样机制研究。

在ACL 2025颁奖礼上，DeepSeek与北京大学联合发表的论文荣获最佳论文奖，其提出的原生稀疏注意力（NSA）机制为自然语言处理效率突破提供了新思路。知乎答主热议这一技术，李明殊以购物比喻解释NSA机制，Nil-9和锤炼小助手从技术角度深入解析其原理。清华大学刘知远团队此前发布的InfLLM项目及微软亚研院、月之暗面的相关研究均推动了稀疏注意力的发展。知乎作为科技讨论平台，已聚集1600万AI学习者和356万创作者，成为开发者交流前沿成果的重要阵地。

2025年7月31日，DeepSeek与北京大学联合发表的论文《Native Sparse Attention》获ACL最佳论文奖。该研究提出一种新方法NSA（原生稀疏注意力），首次将稀疏注意力引入完整训练流程，性能不降反升，推理速度提升11倍。NSA通过“粗读摘要、精读重点、强记最近”三种策略动态分配注意力，在长文本处理中表现优异，如64k长度序列的信息检索准确率达100%。此技术已在27B模型上完成预训练验证，未来或大幅降低AI使用成本，提升效率。搭载NSA的下一代DeepSeek模型备受期待。

在2025年7月31日的ACL 2025颁奖典礼上，DeepSeek与北京大学联合发表的论文荣获*论文奖。其提出的原生稀疏注意力（NSA）机制通过算法与硬件协同优化，将长文本处理速度提升11倍，且性能超越传统全注意力模型。一作袁境阳透露，该技术可扩展上下文至1百万tokens，可能应用于下一代DeepSeek-V4及DeepSeek-R2模型。研究显示，NSA在多项基准测试中表现优异，尤其在复杂推理和长文本任务中显著领先。此外，会议还评选出其他三篇*论文，分别聚焦语言模型对齐弹性、公平性差异感知及大模型采样机制理论，为AI领域带来新洞见。

2025年7月31日，DeepSeek团队在ACL 2025上荣获最佳论文奖。梁文锋作为通讯作者，与北京大学联合发表的论文提出原生稀疏注意力（NSA）机制，通过算法与硬件协同优化，使长文本处理速度提升11倍，且性能超越传统全注意力模型。论文一作袁境阳透露，该技术可将上下文扩展至1百万tokens，并可能应用于下一代DeepSeek-V4及DeepSeek-R2模型。NSA在多项基准测试中表现优异，尤其在长文本和复杂推理任务上显著领先。此外，本次ACL还评选出其他三篇最佳论文，分别来自北大、斯坦福等团队，研究涉及模型对齐弹性、公平性差异感知及LLM采样机制理论。

正文：2025年7月，Meta发布新注意力机制2-Simplicial Transformer，突破传统Transformer性能上限。该架构通过引入三元线性注意力机制，利用OpenAI开源的Triton框架优化计算，显著提升模型在数学、编程和推理任务中的表现。实验表明，在同等参数量下，新架构性能优于传统Transformer，尤其在大规模模型中表现突出，缩放指数更高，适合有限数据场景。研究人员使用Triton实现520TFLOPS运算性能，并结合滑动窗口机制降低计算成本。然而，其高计算复杂度和延迟仍需优化。Meta此番创新引发热议，同时也凸显OpenAI技术的重要性。论文已公开。

Mamba核心作者新作：专为推理优化的注意力机制 曾推动Transformer革新的Mamba作者之一Tri Dao，发布新研究——提出两种专为推理设计的注意力机制，大幅提升了解码速度和吞吐量，尤其在长上下文推理中表现优异。 这项由普林斯顿大学团队完成的研究包含两大创新： 其一，Grouped-Ti...

标题：AI如何模仿人类大脑的注意力机制？ 正文： 近年来，AI领域中最热门的话题无疑是deepseek（简称DS）。作为中国本土崛起的一匹黑马，DS迅速在全球范围内引发关注，甚至一度搅动美国股市，成为AI领域的重要事件。 DS的成功离不开技术积累。创始人梁文锋坦言，DS站在了巨人的肩膀上。这个巨人可...

标题：Anthropic AI 揭示大模型中的注意力回路 近日，Anthropic 发布了一种新的研究方法，用于揭示语言模型内部的底层工作机制。该方法通过构建归因图谱，解析模型如何处理特定输入。例如，在面对“Fact: Michael Jordan plays the sport of __”时...