清华唐杰：领域大模型，伪命题

清华教授唐杰在微博分享了关于AI的八点感悟，内容简练却富有洞见：

1. 基座模型的Scaling仍高效：更多数据、更大参数和更强计算是提升基座模型的最佳路径。
2. 长尾能力对齐与推理增强：真实场景中，激活长尾能力和增强推理能力至关重要，需通过mid和post training实现快速对齐。
3. Agent代表生产力：Agent是模型进入真实世界的里程碑，难点在于不同环境的泛化与迁移，需增加数据和强化学习。
4. 记忆机制不可或缺：模型需要具备短期、中期和长期记忆，context、RAG等技术可能对应人类记忆的不同阶段，但迭代知识仍是难题。
5. 在线学习与自我评估：模型需具备在线学习能力，自我评估是关键，这可能是下一阶段的scaling范式。
6. 研发与应用结合：AI的本质是替代人类工作，而非创造新应用，未来将是AI替代不同工种的爆发期。
7. 多模态与具身智能：多模态有前景但难以突破AGI上限，具身智能受限于机器人硬件问题，但数据规模提升将推动进展。
8. 领域大模型是伪命题：AGI时代无需domain-specific模型，领域模型的存在更多是企业护城河的表现，最终领域数据会融入主模型。

唐杰认为，AI的核心在于帮助人类完成工作、创造价值。若AI软件无法产生实际效用，则毫无生命力。

参考链接：唐杰微博