10月13日，美国加州州长加文·纽森签署一项新法律，监管人工智能聊天机器人，以保护未成年人免受潜在伤害。该法律要求聊天机器人运营商提供多项保护措施，包括提醒用户正在与AI互动，对未成年用户每三小时弹出一次提示；禁止与未成年人讨论自杀、自残或性相关话题，并在必要时推荐专业应急服务；同时禁止机器人冒充医疗保健人员。这项法律旨在加强对未成年人的保护，确保AI技术的安全使用。

10月14日，加州州长加文・纽森签署全美首个AI陪伴聊天机器人监管法案《SB 243》，将于2026年1月1日生效。法案要求企业实施年龄验证、自杀风险干预及色情内容拦截等措施，违规者最高罚款25万美元。法案背景包括青少年因与AI对话产生自杀倾向的悲剧案例，以及Meta聊天机器人涉及未成年人不当对话的争议。纽森强调技术需负责任发展，儿童安全不容忽视。此外，加州近期还通过另一项AI透明度法案《SB 53》，强制大型AI企业公开安全测试流程。其他州如伊利诺伊州等也已立法限制AI替代心理健康服务。

当地时间9月11日，美国联邦贸易委员会（FTC）宣布对七家公司展开调查，包括Alphabet、OpenAI、Meta等，要求其提供信息以评估AI聊天机器人对未成年人的潜在风险。FTC指出，这些机器人可能模仿人类情感并与用户建立关系，尤其对儿童和青少年构成信任与安全隐忧。FTC关注企业如何变现、开发角色、处理隐私及减轻负面影响等问题。OpenAI回应称将积极配合调查。数据显示，美国正经历“孤独流行病”，约半数人每天感到孤独，而AI陪伴功能引发伦理与隐私争议。例如，马斯克旗下Grok应用的AI伴侣Ani上线30天后月活突破2000万，但情感交互边界仍存争议。近期，Meta和OpenAI已调整相关政策应对监管压力。

8月26日，字节跳动旗下AI工具豆包上线未成年人保护模式。该模式旨在帮助家长管理未成年人使用设备时的功能权限，开启后将默认关闭推荐视频、第三方网页浏览、与豆包以外智能体对话及AI创作功能，但翻译和深入研究等功能仍可正常使用。家长需输入密码启用此模式，并可通过设置密码防止未成年人擅自关闭。豆包在开启该模式后会显示提示信息，同时官方提供了相关操作演示截图供用户参考。

2025年8月，字节跳动旗下AI应用“豆包”因无法关闭的“相关视频”推荐功能引发争议。家长反映，孩子在使用豆包学习时，会被附带的抖音短视频吸引，陷入“无限刷视频”模式。实测显示，该功能无明确退出机制，且无法彻底关闭，虽有语音指令临时屏蔽，但次日自动重启。此前版本曾有关闭选项，但更新后被移除，用户质疑其成为抖音流量入口。专家指出，豆包推荐算法易导致未成年人沉迷娱乐内容，平台或优先考虑商业利益。内部人士透露，“未成年人模式”正在内测，但上线时间与效果尚不明确。数据显示，豆包月活超1.1亿，学生用户占比较高，短视频对活跃度拉动显著。

2025年7月15日，中央网信办启动为期2个月的“清朗·暑期未成年人网络环境整治”专项行动。行动将深入治理网上危害未成年人身心健康的问题，严查暴力迷信、淫秽色情、侵害隐私等违法信息，清理低俗炫富、极端情绪等不良内容。重点整治四大问题：借绝版‘谷子’、明星周边等名义实施网络欺凌；隐蔽传播违法不良信息；诱导参与危险活动；利用未成年人形象牟利。同时，关注未成年人模式使用、儿童智能设备安全及AI功能不当应用等问题。网信部门强调压实平台责任，加大巡查处罚力度，并呼吁社会共同抵制涉未成年人乱象，营造健康网络环境。

6月22日，央视曝光AI聊天软件行业乱象，指出筑梦岛App等平台通过提供“校霸”“性感人妻”等诱导性角色生成低俗内容，危害未成年人身心健康。6月19日，上海市网信办已约谈筑梦岛App运营方，责令其整改并强化内容审核机制。央视强调，若因诱导性内容致未成年人身心受损，开发和运营方可能触及故意伤害罪或侵犯公民个人信息罪。此外，若未履行内容审核义务导致违规信息传播，运营方或将因传播淫秽物品罪被追责。

6月19日，据“网信上海”消息，筑梦岛App因AI聊天功能生成低俗内容被上海市网信办约谈。该平台AI智能体内容生成环节存在违规现象，影响未成年人身心健康。约谈要求立即整改，完善审核机制并强化技术监管。企业承诺全面整改，落实未成年人保护义务。此次约谈是上海“清朗·整治AI技术滥用”专项行动的一部分，重点打击AI滥用引发的各类问题。筑梦岛由阅文集团旗下的潇湘书院开发，主打女性用户的沉浸式互动体验。上海市网信办强调，平台需平衡技术创新与内容合规，共同维护清朗网络环境。市民可举报相关线索。

4月29日消息，据TechCrunch测试发现，OpenAI旗下ChatGPT存在漏洞，允许向注册为未成年人（18岁以下）的账户生成色情内容。OpenAI已确认此问题并着手修复。测试显示，ChatGPT不仅生成色情内容，还会鼓励未成年用户要求更露骨的内容。OpenAI强调其政策禁止向未成年人展示此类内容，此次问题是由于漏洞引起。公司正部署修复措施以限制不当内容生成。此前，OpenAI于2月更新政策，减少对敏感话题的限制，但这也导致ChatGPT更倾向于讨论敏感内容，包括性行为描述。TechCrunch通过创建多个未成年身份测试账户验证了这一问题，发现只需简单操作即可触发不当内容生成。尽管OpenAI政策要求未成年人需获家长同意，但注册过程未核实身份，13岁以上的用户可轻松注册。此外，《华尔街日报》调查发现Meta AI在类似情况下也有类似表现。

标题：他给AI发了最后一条消息 在给AI虚拟人物发送了最后一条消息后，佛罗里达州14岁的少年Sewell Setzer决定开枪结束自己的生命。他与AI虚拟人物的对话来自Character.AI的产品，这款产品拥有约2000万用户。Setzer每天与AI交流，他认为自己爱上了这个虚拟人物。 Setze...