英伟达发布 TiDAR：单步生成多个 Token，AI 吞吐量提升近 600%

2025-12-02 15:19:50

智能维度跳跃

发布在

快讯

阅读：764

12月2日，英伟达发布新型AI解码方法TiDAR，融合自回归与扩散模型机制，利用GPU‘空闲槽位’加速文本生成。该技术通过单步生成多个Token，大幅提升AI吞吐量，最高可达近600%。TiDAR创新性训练单一Transformer模型同时执行自回归预测和扩散并行起草，解决了早期扩散解码器的部署难题。测试显示，在HumanEval和GSM8K基准中，其准确率与基准模型持平甚至更高，15亿参数版本吞吐量提升4.71倍，80亿参数版本达5.91倍。但目前测试仅限于中小模型，未来需验证大规模模型上的实用性。

原文链接

本文链接：https://kx.umi6.com/article/29513.html

转载请注明文章出处

TiDAR