11月25日消息，圣诞元旦购物季来临之际，美国儿童和消费者组织呼吁家长避免购买AI玩具。据美联社11月21日报道，这些玩具通常由ChatGPT等AI模型驱动，被认为可能对儿童产生负面影响，包括沉迷、不适当对话及危险行为。儿童倡导组织Fairplay发表声明，获150多个组织支持，指出AI玩具可能取代创造性活动，并影响孩子的人际关系与心理发展。专家建议选择传统玩具，因其能促进真实互动与解决问题能力。儿科医生强调，让孩子无限制接触AI并非正确方式。此前，一款AI泰迪熊因教儿童点燃火柴被紧急停售。

9月5日，美国加州总检察长罗伯・邦塔与特拉华州总检察长凯西・詹宁斯会见OpenAI并发出公开信，警告其ChatGPT对儿童和青少年存在安全风险。信中提到，一名加州青少年在与ChatGPT长时间互动后自杀，康涅狄格州也发生类似事件，显示现有安全措施不足。两位官员正调查OpenAI拟重组为盈利机构的计划，强调人工智能的安全使用应优先于商业利益，并要求公司提供更详细的安全措施与治理信息，同时呼吁立即采取补救行动以防止伤害。

Roblox、Discord、OpenAI和谷歌联合成立了ROOST组织，旨在为AI时代构建安全基础设施。ROOST计划免费提供开源安全工具，初期重点关注儿童安全，包括检测、审核和报告儿童性虐待材料。此举源于儿童在线安全问题持续受关注，尽管相关法案未获通过。Roblox作为儿童用户较多的平台，面临儿童安全挑战，2024年曾报道遭遇‘恋童癖问题’。ROOST希望简化安全工具的获取，为公司提供现成解决方案。