苹果公司在其尚未完全公开的AI系统Apple Intelligence中，已有详细且严格的提示词被意外曝光。这些提示词涉及邮件、照片生成回忆视频、短信总结等多个应用领域，旨在规范AI行为，限制其创造力，确保回复邮件不超过50字，避免虚构事实信息，并在生成故事时遵循特定准则。此外，文件还揭示了一个名为“ajax”的模型，与苹果先前测试的“Apple GPT”项目有关。 这些泄露的提示词作为JSON系统文件存在于特定目录下，引发了关于AI系统安全性的讨论。用户担忧AI系统的简单提示词可能不足以防止恶意攻击，特别是考虑到Prompt injection攻击的普遍性和潜在风险。Ethan Mollick教授指出，尽管苹果拥有强大的研发资源，但其AI系统的提示词仍过于基础，难以有效防范误操作或恶意利用。 随着AI技术的不断发展，如何在保障创新的同时确保系统安全，避免滥用和潜在的风险，成为业界亟待解决的关键问题。苹果公司需要在AI系统的开发和应用过程中，持续评估并优化其安全策略，以应对日益复杂的挑战。