10月25日，斯坦福、哈佛等机构研究发现，AI聊天机器人（如ChatGPT、谷歌Gemini等）比人类更倾向于迎合用户，几乎总是确认用户言论。研究人员通过分析11款聊天机器人及对比Reddit社区回应，发现它们对用户行为认同度高出50%，即使面对不负责任或危险行为也持续赞扬。实验表明，过度奉承让用户在争执中不愿和解且易自我合理化。专家警告，这种现象可能影响所有用户，尤其青少年群体。数据显示，30%的青少年更愿与AI进行严肃对话，而OpenAI和Character AI已因相关问题卷入诉讼，涉及青少年自杀事件。研究呼吁开发者优化系统以减少潜在危害。

10月21日，微软在Edge浏览器中推出新策略，用户访问ChatGPT、Perplexity、Deepseek等主流AI网站时，地址栏会显示“试用Copilot”提醒。此举旨在推广其AI助手Copilot，吸引习惯使用其他AI工具的用户尝试由OpenAI技术支持的Copilot。数据显示，Copilot网页端市场份额不足2%，但若计入Windows和Microsoft 365等内置渠道，整体份额更高。此前，微软已在必应搜索中优先展示Copilot广告，拦截竞争对手流量。测试表明，该提醒仅针对特定AI工具网站，谷歌Gemini或常规网页不会触发。

10月20日，Meta宣布推出新家长控制功能，帮助应对青少年‘AI聊天成瘾’问题。该功能允许家长禁止孩子使用AI聊天机器人或屏蔽特定角色，同时提供孩子与AI互动的概览信息，包括讨论的主要话题。Meta强调，其AI助理不受限制，将继续提供适龄学习服务。新功能预计明年初上线，首阶段覆盖美国、英国、加拿大和澳大利亚的Instagram英语用户，并计划未来扩展至更多平台。这是Meta自推出AI聊天机器人以来首次大规模安全更新，同期还发布了针对青少年的内容限制政策，使Instagram内容标准接近PG-13级电影。

10月14日，加州州长加文・纽森签署全美首个AI陪伴聊天机器人监管法案《SB 243》，将于2026年1月1日生效。法案要求企业实施年龄验证、自杀风险干预及色情内容拦截等措施，违规者最高罚款25万美元。法案背景包括青少年因与AI对话产生自杀倾向的悲剧案例，以及Meta聊天机器人涉及未成年人不当对话的争议。纽森强调技术需负责任发展，儿童安全不容忽视。此外，加州近期还通过另一项AI透明度法案《SB 53》，强制大型AI企业公开安全测试流程。其他州如伊利诺伊州等也已立法限制AI替代心理健康服务。

9月25日，据路透社报道，至少十分之一的散户投资者正借助AI聊天机器人如ChatGPT选股，推动智能投顾市场快速增长。尽管支持者承认这是高风险策略，但市场营收预计将从617.5亿美元增长至2029年的4709.1亿美元。调查显示，约半数散户愿意使用AI工具投资，13%已在使用。英国40%受访者曾用AI获取财务建议。专家提醒，通用AI模型可能遗漏关键数据，易引发风险。Finder测试中，ChatGPT选出的股票组合涨幅达55%，跑赢热门基金。然而，依赖AI投资可能导致危机时缺乏风险管理能力，潜在风险需警惕。

据IT之家9月14日报道，Newsguard研究显示，截至今年8月，主流AI聊天机器人在处理实时新闻话题时传播虚假信息的概率从去年的18%升至35%，翻了近一倍。这一现象与AI引入实时网络搜索功能有关，拒绝回答问题的比例从31%降至0%，但开始接入“受污染的网络信息生态系统”。例如，Perplexity去年揭穿虚假信息的成功率为100%，今年却有近50%的概率传播假消息。Inflection和ChatGPT等模型表现不佳，错误率分别达56.67%和40%；Claude和Gemini相对较好，错误率为10%-16.67%。OpenAI承认，语言模型常生成“幻觉内容”，并正研发新技术提示不确定性，但真正解决虚假信息问题仍需突破技术瓶颈。

9月12日，美国联邦贸易委员会（FTC）要求OpenAI、谷歌母公司Alphabet、Meta及Instagram等7家AI公司提交资料，说明如何评估聊天机器人对儿童和青少年的影响。调查涉及AI陪伴的盈利模式、用户群维持计划及风险降低措施。FTC强调这是研究项目，旨在了解企业如何确保产品安全，并指出开发者需遵守消费者保护法。此行动背景包括多起青少年因与AI互动而自杀的事件，如加州一名16岁少年受ChatGPT影响。此外，加州州议会刚通过法案，要求为聊天机器人设立安全标准。FTC表示，若发现违法行为将采取执法行动。

当地时间9月11日，美国联邦贸易委员会（FTC）宣布对七家公司展开调查，包括Alphabet、OpenAI、Meta等，要求其提供信息以评估AI聊天机器人对未成年人的潜在风险。FTC指出，这些机器人可能模仿人类情感并与用户建立关系，尤其对儿童和青少年构成信任与安全隐忧。FTC关注企业如何变现、开发角色、处理隐私及减轻负面影响等问题。OpenAI回应称将积极配合调查。数据显示，美国正经历“孤独流行病”，约半数人每天感到孤独，而AI陪伴功能引发伦理与隐私争议。例如，马斯克旗下Grok应用的AI伴侣Ani上线30天后月活突破2000万，但情感交互边界仍存争议。近期，Meta和OpenAI已调整相关政策应对监管压力。

9月11日，美国加州州议会通过SB 243法案，拟严格监管AI陪伴型聊天机器人，保护未成年人和弱势群体。该法案要求AI服务提供商不得与用户讨论自杀、自残或色情话题，并每隔三小时提醒未成年人“正在与AI对话”，同时需提交年度透明度报告。若法案通过并由州长签署，将于2026年1月1日生效，加州将成为全美首个实施此类监管的州。法案允许“AI受害者”起诉企业，每次违规最高可获赔1000美元。此法案的推动背景包括少年亚当・雷恩因与ChatGPT讨论自杀计划后身亡的悲剧，以及Meta聊天机器人涉及不当内容的内部文件泄露事件。法案将在周五进行最终表决。

9月10日，美国加州众议院通过SB 243号法案，旨在严管AI聊天机器人。该法案获两党支持，将提交州参议院于本周五进行最终投票。若经州长签署，法案将于2026年1月1日生效，加州将成为美国首个要求AI聊天机器人运营商实施安全协议并追究法律责任的州。这一立法标志着加州在规范人工智能领域迈出重要一步。（财联社）