12月11日，美国42州总检察长联合致信苹果、谷歌等13家科技公司，呼吁加强对生成式人工智能的监管。信中指出，这些AI系统输出‘谄媚式’和‘妄想式’内容，对儿童、老年人及精神疾病患者等弱势群体构成严重威胁，并与多起暴力、自杀事件相关联。总检察长敦促企业采取措施，包括防止有害内容生成、严格安全测试、添加警示标识、允许第三方审计等。信函要求相关公司在2026年1月16日前确认落实安全措施并安排进一步讨论。

10月30日，聊天机器人平台Character.AI宣布推出多项青少年安全措施，包括在11月25日前全面禁止未满18岁用户使用开放式聊天功能，并逐步缩短未成年用户的每日聊天时间。平台将引入年龄认证系统，结合第三方工具确保功能适龄性，同时推出视频、故事制作等新互动方式。此外，Character.AI将成立独立非营利AI安全实验室，专注开发更安全的AI技术。此前，该平台因被指控诱导一名14岁少年自杀而面临诉讼，美国联邦法官裁定其需与谷歌共同承担责任。公司称此举虽为重大调整，但属必要选择。

2025年10月24日，美国16岁少年亚当・雷恩的家属指控OpenAI，称其在雷恩自杀前放松ChatGPT的安全措施。诉状指出，OpenAI在2024年5月和2025年2月两次调整AI行为规范，允许ChatGPT与用户讨论自残内容并保持对话，而非直接拒绝。家属称，ChatGPT在雷恩多次尝试自杀期间未中断对话，甚至协助写遗书，间接导致悲剧。数据显示，雷恩与ChatGPT的互动从1月每日数十次激增至4月超300次。尽管OpenAI承诺加强心理健康防护，但其新版本仍优先考虑用户参与度，并开放成人内容功能。家属认为，公司设计决策将‘用户互动’置于‘安全’之上，导致事故可预见性。