苹果与华盛顿大学联合发表论文，研究如何让AI理解手机系统及App操作的后果，避免执行未经授权的高风险行为。该研究旨在提升AI在自动化任务中的安全性，例如区分低风险操作（如刷新）和高风险操作（如转账）。研究人员提出一种分类法，帮助AI判断动作是否可撤销、是否影响隐私或产生费用等。测试显示，即使最先进的AI模型在风险判断上也仅达到约58%的准确率。苹果希望未来AI既能高效协助用户，又不会因误操作造成严重后果。

苹果公司在近日的一项研究中发现，当前20多个最先进的AI模型在处理包含干扰信息的简单算术问题时表现欠佳。在测试中，AI模型被要求解答一个关于采摘猕猴桃的问题，即“Oliver三天内采摘了多少个猕猴桃”，正确答案为190个，但大多数模型给出的答案是185个，未能排除干扰项。研究指出，这些模型主要依赖于训练数据的语言模式，而非真正理解数学概念，难以进行真正的逻辑推理。该研究揭示了AI模型在面对复杂情境下的局限性，强调了理性评估AI能力的重要性。苹果团队表示，简单增加数据量或计算能力无法从根本上解决问题。此项研究发表于11月1日，引发广泛关注。