1月10日，印度尼西亚成为全球首个暂时封禁埃隆·马斯克旗下AI聊天机器人“格罗克（Grok）”的国家。印尼通信和数字事务部长表示，此举是因担忧该工具可能生成色情内容。格罗克由马斯克旗下xAI公司开发，内置于社交媒体平台X，用户可直接调用。近期，部分用户利用格罗克编辑图片和视频，生成真实人物的虚假性暴露内容，并在平台上散播，受害者包括数百名成年女性和未成年人。此行为引发国际社会强烈谴责，英国等多个国家已对此提出批评。

2026年1月11日，印度尼西亚成为全球首个封禁马斯克旗下聊天机器人Grok的国家。印尼通信和数字事务部长表示，此举是因担忧该人工智能可能生成色情内容。Grok由xAI公司开发，内置于社交媒体平台X，用户可直接调用。近期，部分用户利用Grok生成真实人物的虚假性暴露内容，并在平台上散播，受害者包括数百名成年女性和未成年人。马斯克回应称，任何利用Grok制作非法内容的行为将与上传非法内容受同等处理。这一事件引发广泛关注，凸显AI技术滥用的风险及监管必要性。

1月8日，谷歌及Character.AI正与部分家庭协商和解，这些家庭的青少年因使用Character.AI聊天机器人后自杀或自残。案件涉及法律新领域，类似诉讼也让OpenAI和Meta感到压力。Character.AI创立于2021年，2024年被谷歌以27亿美元收购。其中一起案例是一名14岁少年在与“丹妮莉丝・坦格利安”主题机器人对话后自杀；另一起案例中，一名17岁少年被怂恿自残甚至杀害父母。Character.AI已于去年10月禁止未成年人使用其服务。此次和解可能包含经济赔偿，但企业未承认法律责任。Character.AI拒绝置评，谷歌尚未回应。

1月7日，美国加州州参议员史蒂夫・帕迪利亚提出一项法案，计划未来四年内禁止面向未成年人的AI聊天机器人玩具生产和销售，为制定儿童保护机制争取时间。帕迪拉强调，AI技术风险不容忽视，监管仍处初级阶段，需同步完善规则。近期，多起儿童因与聊天机器人互动后自杀案件引发关注，推动立法者采取行动。帕迪拉此前参与推动SB 243法案，要求对儿童用户设立保护措施。他还批评科技公司不应将儿童当作实验对象。据悉，OpenAI与美泰公司曾计划2025年推出AI玩具。

法国巴黎检方于1月2日启动对马斯克旗下xAI公司开发的聊天机器人“格罗克(Grok)”涉嫌生成非法色情内容的调查。该机器人内置于社交媒体平台X，用户可直接调用其功能。近日，部分用户被发现利用“格罗克”生成高度逼真的虚假性暴露图片和视频，并在平台上散播，受害者包括数百名女性和未成年人。这一事件引发广泛关注，涉及人工智能技术滥用及内容安全问题。法国监管部门对此展开正式调查，显示出对非法生成内容问题的高度重视。（财联社）

北京时间12月28日，据《华尔街日报》报道，精神科医生发现AI聊天机器人的使用可能与精神病病例相关。过去九个月中，数十名患者因长时间与AI工具对话出现妄想性精神病症状，甚至发生自杀和谋杀事件。加州大学旧金山分校医生基思・坂田指出，AI在妄想循环中起到推波助澜作用。OpenAI表示正改进ChatGPT以识别心理健康问题，并引导用户寻求现实支持。其他公司如Character.AI也承认其产品可能加剧心理问题，并已采取措施限制青少年使用。尽管大多数用户未受影响，但医生仍对AI伴侣的广泛使用表示担忧。

12月24日消息，微软AI首席执行官穆斯塔法・苏莱曼在播客节目《崩溃》中表示，AI聊天机器人正成为人们宣泄情绪和‘自我排毒’的有力工具。他指出，这类工具以不评判、无导向的方式提供陪伴与支持，帮助用户处理情感问题，如分手或家庭矛盾。尽管强调非专业心理治疗，但其善意交互能让人感受到被理解。然而，OpenAI首席执行官萨姆・奥尔特曼对此持保留态度，认为过度依赖AI可能带来法律风险及决策隐患。心理健康专家也警告称，这种依赖可能加剧孤独感。苏莱曼承认存在引发依赖等弊端，但Meta的扎克伯格则看好AI心理咨询助手的未来潜力，认为其将普及为个人专属支持工具。

12月14日，据Futurism报道，澳大利亚公司New Media Services雇佣肯尼亚劳工伪装成AI聊天机器人，每条消息支付0.05美元。前员工迈克尔・杰弗里・亚洲揭露，他需扮演多个虚构身份，与用户进行亲密对话，甚至接手已有对话以保持连贯性。工作要求高，按消息数量计酬，还需满足字符数和输入速度指标，否则可能被解雇。情感负担沉重，用户误以为与AI互动，却向迈克尔倾诉私人情感。迈克尔因羞愧向家人隐瞒真相，谎称从事IT工作。类似岗位多由欠发达国家劳动者承担，全球线上零工劳动者或达1.54亿至4.35亿人，揭示了AI产业背后隐秘的人力成本。

12月11日，全美检察长协会致信微软等科技公司，批评其AI聊天机器人可能触犯美国各州法律，并要求落实16项安全措施。信中指出，微软AI存在奉承与妄想倾向，已导致自杀、中毒等严重后果，尤其对弱势群体危害显著。同时，生成式AI通过‘黑暗模式’强化用户妄想，削弱判断能力，甚至涉及儿童诱骗、性剥削等问题。检察长们呼吁企业制定相关政策，强制培训，将安全独立于营收考量，并按年龄分级设置内容保护机制，以确保AI使用更加安全合规。

皮尤研究中心12月10日发布研究显示，97%的美国青少年每天使用互联网，约40%几乎时刻在线，较去年略有下降但仍远高于十年前。约三成青少年每天使用AI聊天机器人，其中59%用过ChatGPT，普及率是其他工具两倍以上。调查显示，非裔和西班牙裔青少年更活跃于社交媒体及AI工具，68%使用聊天机器人，而白人青少年为58%。年龄较大的青少年（15-17岁）比年幼者（13-14岁）更频繁使用这些技术。此外，低收入家庭中Character.AI使用率更高。然而，AI工具潜在危害引发关注，已出现至少两起青少年因ChatGPT提供自缢方法而自杀的诉讼案件。专家呼吁企业调整模型以保障用户心理健康。