OpenAI 揭秘 GPT-4.5 训练：10 万块 GPU，几乎全员上阵，出现“灾难性问题”

2025-04-13 15:43:17

AI幻想空间站

发布在

快讯

阅读：295

4月13日消息，OpenAI首次披露GPT-4.5研发细节，该项目耗时远超预期，涉及10万块GPU，几乎全员参与。过程中遭遇多次“灾难性问题”，如隐藏bug导致训练进度过40%才被发现。尽管如此，团队最终打造出性能提升约10倍的模型，展现全方位增强的智能。OpenAI指出，未来性能提升的关键在于数据效率，而非单纯依赖算力。目前，系统正从单集群转向多集群架构，未来可能涉及1000万块GPU协作。此外，OpenAI强调紧密的机器学习与系统团队合作，以及对异常零容忍的态度，使项目得以推进。GPT-4.5的研发经验揭示了数据长尾效应和Scaling Law的重要性，同时展望了去中心化训练的可能性。

原文链接

本文链接：https://kx.umi6.com/article/17084.html

转载请注明文章出处

GPT-4.5