5月22日，《科创板日报》报道指出，国家网络与信息安全信息通报中心近期通报了35款存在违规收集使用个人信息的移动应用，其中包括热门AI应用智谱清言、Kimi等。这些应用分别存在“实际收集信息超出授权范围”或“信息与业务功能无直接关联”的问题。通报检测时间为2025年4月16日至5月15日。此外，美团的AI产品Wow（版本1.16.5）和字节跳动的猫箱（版本1.57.0）也被点名。AI应用因技术特性及发展阶段，面临更严峻的数据安全与隐私风险。此前，腾讯元宝和字节跳动的豆包也曾因隐私争议进行整改。专家呼吁，企业需将隐私保护纳入顶层设计，并加强监管与合规意识。

4月14日，苹果公司在一篇博文中详细介绍了其AI隐私保护核心技术，包括差分隐私和合成数据的应用。差分隐私技术通过添加随机噪声保护用户隐私，例如生成Genmoji表情时，仅汇总高频指令而不记录个性化信息，并确保数据与设备ID完全分离。合成数据技术则解决了长文本处理问题，利用大语言模型生成虚拟邮件并提取特征向量，在本地匿名反馈后形成反映真实邮件分布的合成数据集。这些技术已在邮件摘要功能中验证效果，并将在iOS 18.5及后续更新中扩展至图像处理、记忆相册等功能。苹果强调，所有数据均去标识化处理且加密存储于本地，公司仅获取群体趋势报告。