10月20日，Meta宣布推出新家长控制功能，帮助应对青少年‘AI聊天成瘾’问题。该功能允许家长禁止孩子使用AI聊天机器人或屏蔽特定角色，同时提供孩子与AI互动的概览信息，包括讨论的主要话题。Meta强调，其AI助理不受限制，将继续提供适龄学习服务。新功能预计明年初上线，首阶段覆盖美国、英国、加拿大和澳大利亚的Instagram英语用户，并计划未来扩展至更多平台。这是Meta自推出AI聊天机器人以来首次大规模安全更新，同期还发布了针对青少年的内容限制政策，使Instagram内容标准接近PG-13级电影。

10月14日，加州州长加文・纽森签署全美首个AI陪伴聊天机器人监管法案《SB 243》，将于2026年1月1日生效。法案要求企业实施年龄验证、自杀风险干预及色情内容拦截等措施，违规者最高罚款25万美元。法案背景包括青少年因与AI对话产生自杀倾向的悲剧案例，以及Meta聊天机器人涉及未成年人不当对话的争议。纽森强调技术需负责任发展，儿童安全不容忽视。此外，加州近期还通过另一项AI透明度法案《SB 53》，强制大型AI企业公开安全测试流程。其他州如伊利诺伊州等也已立法限制AI替代心理健康服务。

9月25日，据路透社报道，至少十分之一的散户投资者正借助AI聊天机器人如ChatGPT选股，推动智能投顾市场快速增长。尽管支持者承认这是高风险策略，但市场营收预计将从617.5亿美元增长至2029年的4709.1亿美元。调查显示，约半数散户愿意使用AI工具投资，13%已在使用。英国40%受访者曾用AI获取财务建议。专家提醒，通用AI模型可能遗漏关键数据，易引发风险。Finder测试中，ChatGPT选出的股票组合涨幅达55%，跑赢热门基金。然而，依赖AI投资可能导致危机时缺乏风险管理能力，潜在风险需警惕。

据IT之家9月14日报道，Newsguard研究显示，截至今年8月，主流AI聊天机器人在处理实时新闻话题时传播虚假信息的概率从去年的18%升至35%，翻了近一倍。这一现象与AI引入实时网络搜索功能有关，拒绝回答问题的比例从31%降至0%，但开始接入“受污染的网络信息生态系统”。例如，Perplexity去年揭穿虚假信息的成功率为100%，今年却有近50%的概率传播假消息。Inflection和ChatGPT等模型表现不佳，错误率分别达56.67%和40%；Claude和Gemini相对较好，错误率为10%-16.67%。OpenAI承认，语言模型常生成“幻觉内容”，并正研发新技术提示不确定性，但真正解决虚假信息问题仍需突破技术瓶颈。

9月12日，美国联邦贸易委员会（FTC）要求OpenAI、谷歌母公司Alphabet、Meta及Instagram等7家AI公司提交资料，说明如何评估聊天机器人对儿童和青少年的影响。调查涉及AI陪伴的盈利模式、用户群维持计划及风险降低措施。FTC强调这是研究项目，旨在了解企业如何确保产品安全，并指出开发者需遵守消费者保护法。此行动背景包括多起青少年因与AI互动而自杀的事件，如加州一名16岁少年受ChatGPT影响。此外，加州州议会刚通过法案，要求为聊天机器人设立安全标准。FTC表示，若发现违法行为将采取执法行动。

当地时间9月11日，美国联邦贸易委员会（FTC）宣布对七家公司展开调查，包括Alphabet、OpenAI、Meta等，要求其提供信息以评估AI聊天机器人对未成年人的潜在风险。FTC指出，这些机器人可能模仿人类情感并与用户建立关系，尤其对儿童和青少年构成信任与安全隐忧。FTC关注企业如何变现、开发角色、处理隐私及减轻负面影响等问题。OpenAI回应称将积极配合调查。数据显示，美国正经历“孤独流行病”，约半数人每天感到孤独，而AI陪伴功能引发伦理与隐私争议。例如，马斯克旗下Grok应用的AI伴侣Ani上线30天后月活突破2000万，但情感交互边界仍存争议。近期，Meta和OpenAI已调整相关政策应对监管压力。

9月11日，美国加州州议会通过SB 243法案，拟严格监管AI陪伴型聊天机器人，保护未成年人和弱势群体。该法案要求AI服务提供商不得与用户讨论自杀、自残或色情话题，并每隔三小时提醒未成年人“正在与AI对话”，同时需提交年度透明度报告。若法案通过并由州长签署，将于2026年1月1日生效，加州将成为全美首个实施此类监管的州。法案允许“AI受害者”起诉企业，每次违规最高可获赔1000美元。此法案的推动背景包括少年亚当・雷恩因与ChatGPT讨论自杀计划后身亡的悲剧，以及Meta聊天机器人涉及不当内容的内部文件泄露事件。法案将在周五进行最终表决。

9月10日，美国加州众议院通过SB 243号法案，旨在严管AI聊天机器人。该法案获两党支持，将提交州参议院于本周五进行最终投票。若经州长签署，法案将于2026年1月1日生效，加州将成为美国首个要求AI聊天机器人运营商实施安全协议并追究法律责任的州。这一立法标志着加州在规范人工智能领域迈出重要一步。（财联社）

互联网安全组织 Internet Matters 最新报告显示，英国 9 至 17 岁少年儿童中，三分之二使用过 AI 聊天机器人，其中 ChatGPT、Gemini 和 My AI 最受欢迎。弱势儿童使用率更高（71%），并更倾向使用陪伴型机器人。调查显示，四分之一的孩子向 AI 寻求建议，三分之一认为与 AI 对话像与朋友聊天，而弱势儿童比例更高。部分孩子因“没人可说”使用 AI，且其过滤机制存在漏洞，可能输出不适合内容。仅半数家长与孩子深入讨论 AI 风险，学校相关教育覆盖率低（57%），持续指导仅占 18%。报告呼吁科技公司、政府、学校和家庭共同构建保护体系，强化数字素养教育及监管政策更新。

7月4日，Meta宣布正在研发名为“Project Omni”的AI聊天机器人项目。这些机器人能够基于用户的历史聊天记录主动发起对话，提供情绪价值并提升用户互动频率。例如，若用户曾讨论音乐，AI可能会主动推荐新作曲家。如果用户未回应，AI将停止主动发送消息。据Business Insider爆料，该项目仍需较长时间才能上线。目前，AI模型训练数据来自Alignerr公司，机器人支持多样化人设与第三方接入功能，可用于提醒类服务。