12月4日，OpenAI宣布已达成收购AI模型训练工具初创公司Neptune的最终协议。Neptune专注于为AI公司提供模型训练过程监控与调试工具，其技术已被OpenAI使用超一年，用于实验和模型版本比较。Neptune首席执行官透露，未来几个月将逐步减少对外服务。OpenAI首席科学Jakub Pachocki表示，Neptune的快速精准系统能帮助研究人员深入分析复杂训练工作流，未来将深度集成到OpenAI的技术栈中，以更清晰洞察模型学习过程。此次收购将加强双方协作，进一步提升AI模型训练效率。

6月11日，俄罗斯科技巨头Yandex宣布开源大语言模型训练工具YaFSDP，旨在提高GPU利用率，对Llama 3模型实现高达26%的加速。YaFSDP在训练速度和内存压力下表现出色，特别适合大型模型，如Llama 2和3系列，分别实现了21%至26%的效率提升。这一开源工具可帮助开发者和企业节省大量GPU成本，每月可能节省数十万美元。Yandex团队正致力于扩展YaFSDP的适用范围，不断探索新模型架构和参数大小。#YaFSDP #大语言模型 #GPU效率提升