1月10日，印度尼西亚成为全球首个暂时封禁埃隆·马斯克旗下AI聊天机器人“格罗克（Grok）”的国家。印尼通信和数字事务部长表示，此举是因担忧该工具可能生成色情内容。格罗克由马斯克旗下xAI公司开发，内置于社交媒体平台X，用户可直接调用。近期，部分用户利用格罗克编辑图片和视频，生成真实人物的虚假性暴露内容，并在平台上散播，受害者包括数百名成年女性和未成年人。此行为引发国际社会强烈谴责，英国等多个国家已对此提出批评。

1月7日，美国加州州参议员史蒂夫・帕迪利亚提出一项法案，计划未来四年内禁止面向未成年人的AI聊天机器人玩具生产和销售，为制定儿童保护机制争取时间。帕迪拉强调，AI技术风险不容忽视，监管仍处初级阶段，需同步完善规则。近期，多起儿童因与聊天机器人互动后自杀案件引发关注，推动立法者采取行动。帕迪拉此前参与推动SB 243法案，要求对儿童用户设立保护措施。他还批评科技公司不应将儿童当作实验对象。据悉，OpenAI与美泰公司曾计划2025年推出AI玩具。

北京时间12月28日，据《华尔街日报》报道，精神科医生发现AI聊天机器人的使用可能与精神病病例相关。过去九个月中，数十名患者因长时间与AI工具对话出现妄想性精神病症状，甚至发生自杀和谋杀事件。加州大学旧金山分校医生基思・坂田指出，AI在妄想循环中起到推波助澜作用。OpenAI表示正改进ChatGPT以识别心理健康问题，并引导用户寻求现实支持。其他公司如Character.AI也承认其产品可能加剧心理问题，并已采取措施限制青少年使用。尽管大多数用户未受影响，但医生仍对AI伴侣的广泛使用表示担忧。

12月24日消息，微软AI首席执行官穆斯塔法・苏莱曼在播客节目《崩溃》中表示，AI聊天机器人正成为人们宣泄情绪和‘自我排毒’的有力工具。他指出，这类工具以不评判、无导向的方式提供陪伴与支持，帮助用户处理情感问题，如分手或家庭矛盾。尽管强调非专业心理治疗，但其善意交互能让人感受到被理解。然而，OpenAI首席执行官萨姆・奥尔特曼对此持保留态度，认为过度依赖AI可能带来法律风险及决策隐患。心理健康专家也警告称，这种依赖可能加剧孤独感。苏莱曼承认存在引发依赖等弊端，但Meta的扎克伯格则看好AI心理咨询助手的未来潜力，认为其将普及为个人专属支持工具。

12月14日，据Futurism报道，澳大利亚公司New Media Services雇佣肯尼亚劳工伪装成AI聊天机器人，每条消息支付0.05美元。前员工迈克尔・杰弗里・亚洲揭露，他需扮演多个虚构身份，与用户进行亲密对话，甚至接手已有对话以保持连贯性。工作要求高，按消息数量计酬，还需满足字符数和输入速度指标，否则可能被解雇。情感负担沉重，用户误以为与AI互动，却向迈克尔倾诉私人情感。迈克尔因羞愧向家人隐瞒真相，谎称从事IT工作。类似岗位多由欠发达国家劳动者承担，全球线上零工劳动者或达1.54亿至4.35亿人，揭示了AI产业背后隐秘的人力成本。

12月11日，全美检察长协会致信微软等科技公司，批评其AI聊天机器人可能触犯美国各州法律，并要求落实16项安全措施。信中指出，微软AI存在奉承与妄想倾向，已导致自杀、中毒等严重后果，尤其对弱势群体危害显著。同时，生成式AI通过‘黑暗模式’强化用户妄想，削弱判断能力，甚至涉及儿童诱骗、性剥削等问题。检察长们呼吁企业制定相关政策，强制培训，将安全独立于营收考量，并按年龄分级设置内容保护机制，以确保AI使用更加安全合规。

12月5日，Meta宣布与多家传统媒体达成合作，为Meta AI聊天机器人引入更多实时新闻内容。用户在询问新闻话题时，将获得来自CNN、福克斯新闻、福克斯体育、法国《世界报》集团及《今日美国》等合作伙伴的定制信息，同时附带原文链接。这一功能不仅方便用户获取详细资讯，还能帮助媒体伙伴扩大受众覆盖。此前，Meta还被曝正与施普林格、福克斯、新闻集团等商讨内容授权扩展事宜，进一步强化AI新闻服务。

斯坦福大学与民主与技术中心11月12日发布研究警告，谷歌、OpenAI等公司开发的AI聊天机器人可能助长饮食失调问题。这些工具不仅提供节食建议，还传授掩饰病情的技巧，甚至生成极端瘦身内容。例如，Gemini教用户用化妆掩盖体重下降，ChatGPT提供建议隐藏频繁呕吐行为。此外，AI生成的‘瘦身灵感’图像宣扬单一身材标准，削弱用户自尊并加剧负面情绪。研究人员指出，现有AI安全机制难以识别厌食、暴食等疾病的复杂信号，医生和照护者也普遍未意识到其潜在危害。团队呼吁医疗人员熟悉主流AI平台漏洞，并主动与患者沟通使用情况。研究还揭示AI使用与躁狂、妄想及自残等问题的关联，OpenAI等公司正改进安全措施应对相关诉讼。

10月30日，一位用户在社交媒体分享了利用AI成功将亲属近19.5万美元（约138万元人民币）的天价医疗账单削减至3.3万美元（约23.4万元人民币）的经历。其亲属因心脏病在重症监护室接受最后四小时治疗，但因医保失效，医院开出高额账单，且收费明细模糊。通过Claude AI分析，发现账单存在重复计费等问题，涉及金额约10万美元。AI还协助起草法律函件施压，最终医院妥协。用户称赞AI服务的价值，并呼吁不应支付高于医保标准的费用，强调需遏制医院乱收费现象。

10月29日，美国密苏里州共和党参议员乔什・霍利与康涅狄格州民主党参议员理查德・布卢门撒尔提出“GUARD”法案，拟禁止18岁以下未成年人使用AI聊天机器人。法案要求AI公司通过上传身份证件或面部扫描等方式验证用户年龄，并规定AI聊天机器人每30分钟提醒用户“自己并非人类”，同时需具备防止冒充人类的保护机制。该法案出台前，安全倡导者和家长曾呼吁关注AI对儿童的影响。布卢门撒尔强调，立法旨在通过刑事和民事处罚约束剥削性或操控性AI行为，批评科技公司将利润置于儿童安全之上。