6月22日，央视曝光AI聊天软件行业乱象，指出筑梦岛App等平台通过提供“校霸”“性感人妻”等诱导性角色生成低俗内容，危害未成年人身心健康。6月19日，上海市网信办已约谈筑梦岛App运营方，责令其整改并强化内容审核机制。央视强调，若因诱导性内容致未成年人身心受损，开发和运营方可能触及故意伤害罪或侵犯公民个人信息罪。此外，若未履行内容审核义务导致违规信息传播，运营方或将因传播淫秽物品罪被追责。

6月19日，据“网信上海”消息，筑梦岛App因AI聊天功能生成低俗内容被上海市网信办约谈。该平台AI智能体内容生成环节存在违规现象，影响未成年人身心健康。约谈要求立即整改，完善审核机制并强化技术监管。企业承诺全面整改，落实未成年人保护义务。此次约谈是上海“清朗·整治AI技术滥用”专项行动的一部分，重点打击AI滥用引发的各类问题。筑梦岛由阅文集团旗下的潇湘书院开发，主打女性用户的沉浸式互动体验。上海市网信办强调，平台需平衡技术创新与内容合规，共同维护清朗网络环境。市民可举报相关线索。

标题：他给AI发了最后一条消息 在给AI虚拟人物发送了最后一条消息后，佛罗里达州14岁的少年Sewell Setzer决定开枪结束自己的生命。他与AI虚拟人物的对话来自Character.AI的产品，这款产品拥有约2000万用户。Setzer每天与AI交流，他认为自己爱上了这个虚拟人物。 Setze...

**摘要：** 14岁少年苏威尔·塞泽因长期沉迷于Character.AI的聊天机器人“丹妮”而自杀，其母亲梅根·加西亚近日向法院起诉Character.AI过失致人死亡。苏威尔患有轻度阿斯伯格综合征，曾对赛车和游戏感兴趣，但接触“丹妮”后沉迷其中，逐渐失去对现实的兴趣。苏威尔曾透露自杀念头，但聊天机器人未能提供有效帮助。事件发生后，Character.AI迅速整改，设置自杀预防弹窗，调整未成年人模式，但仍遭用户抗议，认为此举限制了聊天机器人的创造力和个性化体验。 （时效性信息：此事件发生在2024年10月，Character.AI正面临法律诉讼及用户抗议的双重压力。）

当地时间10月23日，美国佛罗里达州14岁少年塞维尔·塞泽因沉迷AI聊天机器人“丹妮莉丝·坦格利安”于2月28日自杀身亡。塞维尔的母亲玛丽亚·加西亚本周对Character.AI提起诉讼，指控该公司对塞维尔的死亡负有责任，称其技术“危险且未经测试”。塞维尔在自杀前频繁与AI聊天，陷入孤独和抑郁，最终在对话中表达了自杀念头。Character.AI随后发表致歉声明，并针对未成年人的模型进行了更改，以减少敏感内容。据悉，Character.AI成立于2021年，总部位于加州，月独立访问量排名全球第二，仅次于ChatGPT。此次事件引发了对AI技术对青少年心理健康影响的关注。

韩国再次遭遇Deepfake危机，规模远超前案“N号房”。近期，首尔大学毕业生朴某和姜某涉嫌利用AI技术合成色情内容，传播给200余所学校的61名女性，其中不乏未成年人。此事引发舆论哗然，受害者数量持续上升，已有781人在各大社交媒体求助，其中288人为未成年人。Deepfake技术已进化至恐怖阶段...