苹果公司推出了名为Apple Intelligence的新AI系统,集成于iOS 18、iPadOS 18 和macOS Sequoia。此系统包含高效能生成模型,旨在快速响应用户日常需求,如文本编辑、优先事项排序、通知汇总、生成有趣图片及简化跨应用交互。Apple Intelligence中的基础模型已优化以提升用户体验,并支持多个功能,如智能写作、文本润色、应用内操作建议等。
系统中两个关键模型,AFM(Apple Foundation Model)及其服务器版本,展示了出色的性能。AFM模型通过严格评估,证明了其在语言理解和推理、指令遵循、工具使用、写作和数学问题解决方面的卓越能力。评估结果显示,AFM模型在多个任务上超越或匹配其他开源和商用模型,特别是在指令遵循、工具使用和写作任务上表现优异。
AFM模型基于Transformer架构,采用多项优化技术,如共享输入/输出嵌入矩阵、预归一化、RMSNorm、分组查询注意力(GQA)、SwiGLU激活函数和RoPE位置嵌入,以提高效率和性能。模型在预训练阶段使用AXLearn框架,结合网页内容、授权数据集、代码、数学数据和公共数据集,通过三个阶段的训练优化模型能力。
后训练阶段包括监督微调和基于人类反馈的强化学习,以提升模型在特定任务(如邮件摘要、消息摘要和通知摘要)上的性能。这些过程确保了模型质量和性能的提升,同时遵守苹果的核心价值观和负责任AI原则。
推理优化方面,苹果实施了模型量化、精度恢复适配器、混合精度量化、交互式模型分析和运行时可替换的适配器等技术,确保AFM模型在设备上高效运行,同时保持高质量。邮件摘要的优化案例展示了数据收集、合成摘要生成和提示注入策略的有效性。
Apple Intelligence遵循一系列负责任AI原则,确保用户权益、隐私保护,并通过公开可用数据和授权数据集进行训练,避免使用私人用户数据。技术报告详细阐述了系统设计、评估和优化过程,旨在展示Apple Intelligence的先进性和可靠性。
欲了解更多细节,请参考技术报告:[链接]。
-
2026-06-09 19:38:23 -
2026-06-09 19:36:53 -
2026-06-09 19:35:21