OpenAI的GPT-5项目（代号Orion）面临重重困难，成本高昂且未达预期。微软原预计2024年中期能看到新模型，但多次大规模训练均未成功。GPT-5的一次6个月训练成本高达约5亿美元，未来模型成本预计超10亿美元。知情人士表示，Orion虽有提升但仍不足以证明成本合理性。数据短缺成为主要瓶颈，OpenAI尝试创建新数据以满足需求，但进展缓慢。此外，谷歌推出的NotebookLM加剧了竞争压力，OpenAI转向开发其他项目如Sora和更先进的推理模型。OpenAI CEO Sam Altman表示2024年内不会发布GPT-5，但仍在推进开发。

据彭博社报道，多家人工智能巨头如OpenAI、谷歌和Anthropic在开发更先进AI模型时遭遇瓶颈，面临“收益递减”的困境。OpenAI的最新模型Orion在编码任务上的表现不如预期，谷歌即将推出的Gemini软件也面临类似问题，Anthropic则推迟了Claude 3.5 Opus模型的发布。这些挑战主要源于难以获取新的、高质量的训练数据以及开发和运营成本高昂。业内专家认为，传统的更多计算能力、更多数据和更大模型不一定能带来更好的性能。企业正探索替代方法，例如在模型初步训练后进行额外训练以优化回答和语气，以及开发特定任务的AI工具，如预订航班或发送邮件。AI初创公司Hugging Face的首席伦理科学家Margaret Mitchell表示，实现通用人工智能（AGI）的方法可能需要改变。这一情况发生在11月13日。