
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
2025年7月8日,特拉维夫大学研究团队开源了一项新技术,通过引入“思维进度向量”(TPV),可实时监控和控制大型语言模型(LLM)的推理深度与速度。该方法为LLM推理任务添加了可视化进度条,并通过干预TPV实现加速或减速推理过程。实验表明,使用TPV技术的DeepSeek-R1模型推理速度最高提升6倍,计算量减少30%,同时准确率保持不变甚至有所提升。研究还发现,TPV方法能与提示策略结合,进一步提高性能,在低计算预算下正确答案增加80%。相关代码和论文已发布在GitHub和arXiv平台。
原文链接
加载更多

暂无内容