斯坦福 Hazy Research 团队近期发布了一项重大优化成果：他们将开源模型 Llama-3.2-1B 的前向推理整合为一个名为“Megakernel”的单一 CUDA kernel，极大提升了推理速度。这项技术对于实时性强的应用场景尤为重要，例如对话式 AI 和交互式工作流。 团队发现，现有...