10月29日，NVIDIA推出的迷你AI超算DGX Spark被曝实际功耗与性能远低于官方宣称值。据id Software联合创始人John Carmack透露，该设备额定功耗为240W，但实测最高仅约100W，性能表现同样大打折扣：BF16工作负载下约为60 TFLOPS，FP4负载下约480 TFLOPS，远低于预期的1 PFLOPS。此外，设备在高负载运行时容易过热，甚至出现自动重启现象。苹果MLX框架开发者Hannun也证实了类似结果，其测试显示PyTorch和MLX环境下持续性能仅为60 TFLOPS左右。DGX Spark基于GB10超级芯片，结合联发科ARM CPU与NVIDIA Blackwell GPU，定位为‘迷你工作站’，起步价高达3999美元（约合28396元人民币）。

2024年9月12日，OpenAI的o1发布震撼了月之暗面研究员Flood Sung，引发对Long-CoT有效性的反思。早在一年多前，Kimi联合创始人Tim验证了使用小模型进行复杂运算的有效性。然而，由于成本高和速度慢，月之暗面选择优先发展长文本处理技术。Flood Sung反思称，性能才是关键，未来仍需重视Long-CoT。他在Kimi官网发表了解密o1破解过程的文章，表明公司将推进相关研究。

7月4日，2024世界人工智能大会开幕，聚焦大模型应用与安全平衡。业内专家强调了AI发展中的技术与应用重要性，提出智能体成为AI应用的关键方向。工业和信息化部副部长单忠德表示，我国已培育众多智能制造工厂，AI企业超4500家，算力全球第二。大会关注AI安全与性能的45度平衡，即在技术能力和安全标识间寻求平衡。上海人工智能实验室主任周伯文倡导“AI 45度平衡率”，探索因果为核心的可信AGI路径。此外，参会嘉宾如柯瑞文、张平安和李彦宏等均强调了大模型技术在行业应用中的突破和智能体的发展前景。

苹果在2024 WWDC大会上推出了Apple Intelligence，强调其与iPhone 15 Pro及Pro Max的紧密关联，因技术需求，旧款iPhone运行速度受限。苹果高管John Giannandrea解释AI对硬件性能要求高，理论上可扩展至其他设备但效率低。Greg Joswiak澄清，AI限制并非营销策略，而是基于硬件性能差异，如M1芯片的更大DRAM可能成为关键。郭明錤分析师认为DRAM大小是决定是否支持Apple Intelligence的重要因素。这一技术暂仅限于iPhone 15 Pro系列、M1或后续芯片的iPad和Mac。