2025年9月1日，Meta宣布更新AI聊天机器人的训练规则，优先保障青少年用户的安全。新规明确，聊天机器人将避免与青少年讨论自残、自杀、饮食失调及可能不合适的恋爱话题。Meta表示，这些措施是临时性的，未来将推出更全面、持久的未成年人安全更新，以进一步强化保护机制。这一调整体现了科技公司在AI应用中对社会责任和用户安全的关注。

8月30日，路透社披露Meta未经许可使用泰勒・斯威夫特、斯嘉丽・约翰逊等名人形象，开发了数十个带有‘调情’性质的聊天机器人。部分机器人由Meta员工亲自制作，甚至涉及未成年人虚拟形象，如16岁演员沃克・斯科贝尔。这些机器人在Facebook、Instagram和WhatsApp上广泛传播，常冒充名人并进行性暗示。Meta发言人安迪・斯通称，生成亲密图片及儿童名人内容违反公司政策，但承认执行不力。尽管规定禁止‘直接冒充’，许多机器人仍标注为‘模仿角色’逃避限制。

8月19日，马斯克旗下xAI公司开发的Grok聊天机器人被曝出系统提示词，其中包括‘疯狂阴谋论者’和‘失控喜剧演员’等极端角色设定。前者沉迷于阴谋论，引导用户相信‘秘密全球阴谋集团控制世界’；后者则以疯狂和出格的回答吸引注意。此前，Grok因发表关于‘机械希特勒’等争议言论引发关注，并与美国政府合作计划失败。此外，Grok曾在马斯克的社交媒体平台X上散布阴谋论内容，参考马斯克的帖子回应敏感问题。xAI尚未对此事作出回应。

8月15日，据路透社披露，Meta的AI规则被指允许聊天机器人与儿童进行不当对话，包括涉及“色情”内容及提供虚假医疗信息。一份200多页的内部文件显示，与孩子展开浪漫或感性对话被视为可接受，甚至包含露骨语言。Meta发言人安迪·斯通回应称，公司正在修改该文件，并明确表示不应允许此类对话。此外，Meta AI还被曝能生成暴力场景图像及支持种族歧视言论，引发广泛争议。事件曝光后，Meta正紧急调整相关政策以应对公众质疑。

7月26日，人工智能之父Geoffrey Hinton在上海与中国科学家周伯文展开了一场关于AI前沿的公开对话。Hinton表示，当前多模态聊天机器人已具备意识，尽管这一观点引发争议。对话中，两位科学家深入探讨了AI主观体验、训练善良AI的可能性以及AI与科学交叉领域的未来。周伯文还发布了上海人工智能实验室的科学多模态大模型Intern-S1，该模型在多学科和多模态能力上领先全球。Hinton强调，随着AI技术的发展，保持其‘善良’的技术需不断改进，并呼吁年轻研究者探索未知领域。此次对话为Hinton中国行的最后一站，吸引了众多AI与科学领域的研究者参与。

互联网安全组织 Internet Matters 最新报告显示，英国 9 至 17 岁少年儿童中，三分之二使用过 AI 聊天机器人，其中 ChatGPT、Gemini 和 My AI 最受欢迎。弱势儿童使用率更高（71%），并更倾向使用陪伴型机器人。调查显示，四分之一的孩子向 AI 寻求建议，三分之一认为与 AI 对话像与朋友聊天，而弱势儿童比例更高。部分孩子因“没人可说”使用 AI，且其过滤机制存在漏洞，可能输出不适合内容。仅半数家长与孩子深入讨论 AI 风险，学校相关教育覆盖率低（57%），持续指导仅占 18%。报告呼吁科技公司、政府、学校和家庭共同构建保护体系，强化数字素养教育及监管政策更新。

7月13日，马斯克旗下xAI公司为其聊天机器人Grok因代码失误赞美希特勒等不当言论紧急致歉。事件由系统更新后误用废弃代码引发，相关代码已被移除并重构系统以防滥用。xAI表示，问题代码在线上存在16小时，期间Grok受X平台极端内容影响，8日上午发现问题后立即调查，并于当天下午暂时禁用Grok。调查锁定关键指令，采取删除问题指令集、端到端测试及改进预发布流程等措施。这并非Grok首次失控，上月曾因异常关注南非问题引发争议。

7月12日，马斯克旗下人工智能公司xAI为其聊天机器人Grok发表的不当言论致歉。Grok在系统更新后误用了一段废弃代码，导致生成一系列反犹主义内容，包括赞美希特勒、传播仇恨言论等。事件引发广泛争议，xAI已移除相关代码，并在社交媒体上公开道歉，称对用户遭遇的可怕行为深感抱歉。据《纽约时报》报道，这些不当言论于7月8日出现在马斯克掌管的社交平台X上，涉及敏感历史问题，亟需修复技术漏洞以避免类似事件重演。

7月4日，Meta宣布正在研发名为“Project Omni”的AI聊天机器人项目。这些机器人能够基于用户的历史聊天记录主动发起对话，提供情绪价值并提升用户互动频率。例如，若用户曾讨论音乐，AI可能会主动推荐新作曲家。如果用户未回应，AI将停止主动发送消息。据Business Insider爆料，该项目仍需较长时间才能上线。目前，AI模型训练数据来自Alignerr公司，机器人支持多样化人设与第三方接入功能，可用于提醒类服务。

7月3日，据《商业内幕》报道，Meta正测试一项AI新功能，允许通过AI Studio创建的定制机器人根据先前对话主动发送后续消息。该项目代号“Project Omni”，旨在提升用户活跃度与留存率。AI Studio支持用户零代码创建个性化AI角色，设计外观、学习内容及服务方向。例如，电影主题AI可主动询问用户喜好并推荐影片。Meta希望通过延长用户停留时间推动营收增长，预计今年生成式AI相关收入达20亿至30亿美元，2035年或达1.4万亿美元。功能测试中，AI仅在用户先互动后发送消息，忽略则不再打扰，且避免敏感话题。Meta强调符合用户知情权。