7月2日，有用户反映微信AI搜索功能疑似‘开盒’，即在公众号推文中出现本人姓名时，会生成蓝色超链接并展示相关简历和推文。对此，腾讯回应称，微信AI搜索仅整合公开信息，不会使用用户隐私数据。该功能接入了DeepSeek和混元等大模型，旨在提升搜索智能化和精准度。微信方面强调，不会涉及朋友圈、聊天记录等个人信息。此前，微信于2月接入DeepSeek-R1模型，优化搜索体验。‘开盒’指网络曝光他人隐私的行为，属于网络暴力。

5月22日，《科创板日报》报道指出，国家网络与信息安全信息通报中心近期通报了35款存在违规收集使用个人信息的移动应用，其中包括热门AI应用智谱清言、Kimi等。这些应用分别存在“实际收集信息超出授权范围”或“信息与业务功能无直接关联”的问题。通报检测时间为2025年4月16日至5月15日。此外，美团的AI产品Wow（版本1.16.5）和字节跳动的猫箱（版本1.57.0）也被点名。AI应用因技术特性及发展阶段，面临更严峻的数据安全与隐私风险。此前，腾讯元宝和字节跳动的豆包也曾因隐私争议进行整改。专家呼吁，企业需将隐私保护纳入顶层设计，并加强监管与合规意识。

2024年，AI手机市场竞争激烈，苹果、荣耀、小米、vivo、OPPO等厂商纷纷发布新款AI手机。荣耀Magic7系列和小米15等产品搭载端侧大模型，可实现多种智能操作。然而，端侧大模型受限于手机硬件条件，能耗和成本问题突出。荣耀和小米等采用混合式AI路线，部分厂商利用无障碍权限调用第三方APP，引发隐私和安全担忧。尽管AI手机带来便利，但用户数据安全和隐私保护面临挑战，亟需建立新的行业秩序。

苹果WWDC 2024大会上，苹果推出了全新AI产品"Apple Intelligence"，集成了个人智能系统，与OpenAI合作，ChatGPT将整合进新一代操作系统，支持文生图等功能。马斯克质疑苹果侵犯用户隐私，但苹果强调本地模型保护隐私，且强调自主研发与云上模型协同。Apple Intelligence包括本地30亿参数模型和云端更大模型，目标是提供高效且隐私保护的AI服务。尽管市场初期反应冷淡，股价有所波动，但分析师认为将刺激高端iPhone销售。苹果计划年内在美国推出英语版，未来或寻求与百度等中国公司合作。苹果的生态优势和封闭系统可能使其AI Agent概念更具吸引力。尽管技术非首创，但苹果在软硬件一体化和生态系统的独特融合被视为其AI竞争中的潜在优势。

苹果CEO蒂姆·库克在WWDC2024后强调了苹果的“Apple Intelligence”策略，将其定位在个人情境的AI服务上，而非全面竞争。库克澄清AI并非改编，而是聚焦于理解和提升用户体验，强调隐私保护。尽管与OpenAI合作，但苹果明确表示不会永远依赖单一伙伴，且合作可能具有阶段性。库克透露，苹果与OpenAI的合作着重于隐私友好的本地模型与云端大模型结合，用户数据安全得到保证。合作中，苹果试图划清界限，避免OpenAI主导其设备。然而，马斯克等批评者担忧隐私风险，暗示苹果与OpenAI的合作可能并非长远。

苹果即将在 WWDC 2023 大会上展示其人工智能新战略，将采用“机密计算”技术在iOS 18及后续系统更新中保护用户隐私。苹果通过名为“ACDC”的秘密项目研发AI芯片，实现数据在整个处理过程中的加密，即使在服务器内存中也保持隐私。这使得苹果在处理AI任务时能维持严格隐私标准，即使面临执法调查也能坚称无法访问用户数据，提高安全性。不过，《The Information》指出技术细节仍不明朗，如何在大规模用户请求下保持安全模型有效性有待观察。