2025年9月，Gimlet Labs研究发现，AI可自动生成苹果设备的Metal内核，并显著提升PyTorch推理速度。实验显示，AI生成内核在215个PyTorch模块上实现平均1.87倍加速，部分工作负载甚至快数百倍。研究人员使用Mac Studio（Apple M4 Max芯片）和PyTorch eager模式作为基准，测试了Anthropic、DeepSeek和OpenAI等模型。AI生成内核正确性随尝试次数增加而提高，第5次尝试时可达94%。智能体群体策略进一步优化性能，平均加速31%，特定层级达42%。研究强调其目标是验证AI生成内核的可行性，而非追求极限性能，展现自动化内核工程的潜力。

PyTorch灵魂人物Horace He宣布从Meta离职，加入初创公司Thinking Machines担任创始团队工程师。他在Meta工作4年后决定探索新事物。Horace He表示，尽管曾收到OpenAI、Anthropic等公司的职位邀请，但他依然选择了PyTorch，享受其中的开源文化和目标共识。最终，Thinking Machines的使命和团队吸引了他，包括产品和广泛AI扩散、开放科学和系统等方面。他的加入对Meta来说是个巨大损失，Soumith Chintala高度评价了他的贡献。

标题：PyTorch架构优化库torchao正式发布，AI模型效率提升显著 新闻摘要： PyTorch新版本下的架构优化库torchao于10月2日正式推出，专为提升AI模型的效率而设计。torchao提供了一系列工具，专注于模型的量化和稀疏性优化，旨在在保持性能的同时降低计算成本和RAM使用量...

Fireworks AI，一家提供生成式人工智能推理和调优服务的SaaS平台，在今年7月完成由红杉资本领投的5200万美元B轮融资，估值达5.22亿美元。公司专注于打造快速、成本合理且高度可定制的生成式人工智能（GenAI）解决方案，以满足不同客户的需求。Fireworks AI的CEO乔琳在红杉资...

PyTorch团队首次公开了2024年下半年的技术路线图，这份近百页的文档详细规划了该开源库未来的发展方向，涵盖核心库与性能提升、分布式计算、torchtune、TorchRec、TorchVision、PyTorch Edge及数据加载等多个领域。Meta AI工程团队强调透明度，希望通过公开路线图，让开发者了解项目进展和目标。重点在于优化核心库性能，支持大规模分布式训练，以及与HuggingFace的集成。路线图还预示了与LLM和GenAI的深度整合，以及编译器核心的改进。值得关注的是，Edge团队计划推出ExecuTorch Beta版，以支持移动和边缘设备的AI应用。这份路线图标志着PyTorch在开源领域开放合作的新阶段。