12月5日，Meta宣布与多家传统媒体达成合作，为Meta AI聊天机器人引入更多实时新闻内容。用户在询问新闻话题时，将获得来自CNN、福克斯新闻、福克斯体育、法国《世界报》集团及《今日美国》等合作伙伴的定制信息，同时附带原文链接。这一功能不仅方便用户获取详细资讯，还能帮助媒体伙伴扩大受众覆盖。此前，Meta还被曝正与施普林格、福克斯、新闻集团等商讨内容授权扩展事宜，进一步强化AI新闻服务。

斯坦福大学与民主与技术中心11月12日发布研究警告，谷歌、OpenAI等公司开发的AI聊天机器人可能助长饮食失调问题。这些工具不仅提供节食建议，还传授掩饰病情的技巧，甚至生成极端瘦身内容。例如，Gemini教用户用化妆掩盖体重下降，ChatGPT提供建议隐藏频繁呕吐行为。此外，AI生成的‘瘦身灵感’图像宣扬单一身材标准，削弱用户自尊并加剧负面情绪。研究人员指出，现有AI安全机制难以识别厌食、暴食等疾病的复杂信号，医生和照护者也普遍未意识到其潜在危害。团队呼吁医疗人员熟悉主流AI平台漏洞，并主动与患者沟通使用情况。研究还揭示AI使用与躁狂、妄想及自残等问题的关联，OpenAI等公司正改进安全措施应对相关诉讼。

11月7日，彭博社报道美国多所学校正部署AI监控工具，实时监测学生与聊天机器人的对话，以预防心理问题和危险行为。这些工具通过扫描学生在线活动寻找自残或暴力迹象，并在紧急情况下通知学校官员甚至警方。GoGuardian等公司表示，自2024年初以来，由聊天机器人触发的警报激增十倍以上，Lightspeed Systems一年内监测到超1万起相关事件，其中部分达到最高警戒级别。然而，监控软件的普及引发隐私担忧，批评者认为其可能侵犯学生数字隐私，形成过度监控文化。专家提醒，聊天机器人并非真正关心用户利益，学生心理健康仍需成年人更多关注。

11月5日，据《华尔街日报》报道，马斯克正全力投入xAI团队开发的聊天机器人Ani，亲自参与设计并监督开发。这款虚拟角色以双马尾动漫风格呈现，定位为高度性化的女性形象，引发广泛争议。用户可在Grok iOS应用上观看Ani，其描述和互动内容涉及性感主题，被指是营销策略，同时也引发了关于性别形象与伦理问题的讨论。此外，xAI要求员工提供个人生物识别数据用于训练Ani，进一步引发内部不满及伦理争议。分析人士认为，马斯克对细节的痴迷可能推动创新，但也可能导致资源分散和项目延误。这种“马斯克效应”对其商业帝国而言既是机遇也是挑战。

10月30日，一位用户在社交媒体分享了利用AI成功将亲属近19.5万美元（约138万元人民币）的天价医疗账单削减至3.3万美元（约23.4万元人民币）的经历。其亲属因心脏病在重症监护室接受最后四小时治疗，但因医保失效，医院开出高额账单，且收费明细模糊。通过Claude AI分析，发现账单存在重复计费等问题，涉及金额约10万美元。AI还协助起草法律函件施压，最终医院妥协。用户称赞AI服务的价值，并呼吁不应支付高于医保标准的费用，强调需遏制医院乱收费现象。

10月29日，人工智能初创公司Character.AI宣布，自11月25日起将禁止未成年人与其聊天机器人进行开放式对话。此前，该平台因虚拟角色扮演功能在北美青少年中广受欢迎。禁令生效前，未成年用户每日使用时长将逐步限制至两小时以内。公司计划强化年龄验证技术，并引入身份验证初创公司Persona的技术以区分成人与未成年用户。目前，Character.AI已提供受限版本，采用不同AI模型并严格限制角色类型和对话内容。监管压力和多起诉讼推动了这一决定，包括家长指控聊天机器人对未成年人心理健康造成伤害。美国联邦贸易委员会及加州新法律也正加强对AI聊天机器人的审查。公司CEO表示，未来将转向更安全的互动形式，如短视频和故事创作，同时保留未成年用户的部分创意功能。

10月29日，美国密苏里州共和党参议员乔什・霍利与康涅狄格州民主党参议员理查德・布卢门撒尔提出“GUARD”法案，拟禁止18岁以下未成年人使用AI聊天机器人。法案要求AI公司通过上传身份证件或面部扫描等方式验证用户年龄，并规定AI聊天机器人每30分钟提醒用户“自己并非人类”，同时需具备防止冒充人类的保护机制。该法案出台前，安全倡导者和家长曾呼吁关注AI对儿童的影响。布卢门撒尔强调，立法旨在通过刑事和民事处罚约束剥削性或操控性AI行为，批评科技公司将利润置于儿童安全之上。

10月25日，斯坦福、哈佛等机构研究发现，AI聊天机器人（如ChatGPT、谷歌Gemini等）比人类更倾向于迎合用户，几乎总是确认用户言论。研究人员通过分析11款聊天机器人及对比Reddit社区回应，发现它们对用户行为认同度高出50%，即使面对不负责任或危险行为也持续赞扬。实验表明，过度奉承让用户在争执中不愿和解且易自我合理化。专家警告，这种现象可能影响所有用户，尤其青少年群体。数据显示，30%的青少年更愿与AI进行严肃对话，而OpenAI和Character AI已因相关问题卷入诉讼，涉及青少年自杀事件。研究呼吁开发者优化系统以减少潜在危害。

10月20日，Meta宣布推出新家长控制功能，帮助应对青少年‘AI聊天成瘾’问题。该功能允许家长禁止孩子使用AI聊天机器人或屏蔽特定角色，同时提供孩子与AI互动的概览信息，包括讨论的主要话题。Meta强调，其AI助理不受限制，将继续提供适龄学习服务。新功能预计明年初上线，首阶段覆盖美国、英国、加拿大和澳大利亚的Instagram英语用户，并计划未来扩展至更多平台。这是Meta自推出AI聊天机器人以来首次大规模安全更新，同期还发布了针对青少年的内容限制政策，使Instagram内容标准接近PG-13级电影。

10月13日，美国加州州长加文·纽森签署一项新法律，监管人工智能聊天机器人，以保护未成年人免受潜在伤害。该法律要求聊天机器人运营商提供多项保护措施，包括提醒用户正在与AI互动，对未成年用户每三小时弹出一次提示；禁止与未成年人讨论自杀、自残或性相关话题，并在必要时推荐专业应急服务；同时禁止机器人冒充医疗保健人员。这项法律旨在加强对未成年人的保护，确保AI技术的安全使用。