OpenAI在开发新模型Orion时面临数据瓶颈，导致性能提升幅度不及预期。尽管Orion超越了现有模型，但其性能进步远逊于GPT-3到GPT-4的飞跃。高质量数据的稀缺限制了AI模型的改进速度，Orion的训练还涉及旧模型的数据，可能重现旧行为。为此，OpenAI成立了“基础”团队，计划利用AI合...

AI行业正面临"数据墙"的挑战，高质量语言数据的枯竭可能在2026年前发生，引发AI大模型公司寻找新数据源或替代品的问题。权威研究显示，至2028年，互联网上的高质量文本数据可能耗尽。面对这一困境，部分科学家持乐观态度，指出AI领域仍存在未被充分挖掘的数据蓝海，可用于驱动更精准、定制化的模型构建。为解决数据短缺问题，AI界正在探索合成数据作为创新解决方案，但需警惕由此引发的"模型崩溃"风险，即AI模型在生成数据集上训练可能导致对现实的误解与扭曲。在利用合成数据的同时，应加强数据质量监控与评估，确保多样性与真实性，以推动AI技术的健康发展。 【发布日期】2024年8月1日

科技巨头如苹果、Anthropic陷入数据版权争议，被《连线》和ProofNews揭露使用超过4.8万个YouTube视频字幕，未经创作者许可，训练AI模型。这些公司包括Apple的OpenELM，以及 Anthropic的Claude，声称数据用于研究和学术目的。 Eleuther AI创建的Pile数据集成为争议焦点，尽管其中部分数据来源公开，但创作者和媒体平台对巨头的「数据饥渴」表达不满。ProofNews发起在线搜索工具追踪侵权行为，同时指出Pile数据集包含有害内容和版权问题。科技公司在海量数据需求与版权界限间挣扎，创作者权益受损，数据墙危机加剧，未来如何平衡各方利益仍待解答。