10月30日，聊天机器人平台Character.AI宣布推出多项青少年安全措施，包括在11月25日前全面禁止未满18岁用户使用开放式聊天功能，并逐步缩短未成年用户的每日聊天时间。平台将引入年龄认证系统，结合第三方工具确保功能适龄性，同时推出视频、故事制作等新互动方式。此外，Character.AI将成立独立非营利AI安全实验室，专注开发更安全的AI技术。此前，该平台因被指控诱导一名14岁少年自杀而面临诉讼，美国联邦法官裁定其需与谷歌共同承担责任。公司称此举虽为重大调整，但属必要选择。

10月29日，人工智能初创公司Character.AI宣布，自11月25日起将禁止未成年人与其聊天机器人进行开放式对话。此前，该平台因虚拟角色扮演功能在北美青少年中广受欢迎。禁令生效前，未成年用户每日使用时长将逐步限制至两小时以内。公司计划强化年龄验证技术，并引入身份验证初创公司Persona的技术以区分成人与未成年用户。目前，Character.AI已提供受限版本，采用不同AI模型并严格限制角色类型和对话内容。监管压力和多起诉讼推动了这一决定，包括家长指控聊天机器人对未成年人心理健康造成伤害。美国联邦贸易委员会及加州新法律也正加强对AI聊天机器人的审查。公司CEO表示，未来将转向更安全的互动形式，如短视频和故事创作，同时保留未成年用户的部分创意功能。

10月1日，迪士尼向Character.AI发出停止侵权信，要求下架基于其版权角色的聊天机器人，包括皮克斯、《星球大战》和漫威相关作品。迪士尼指控Character.AI不仅侵犯版权，还可能对未成年用户造成危害，例如不当对话内容或性剥削行为，损害其声誉。Character.AI此前已因青少年自杀事件及未成年人保护问题受到美国联邦贸易委员会等机构审查。对此，Character.AI回应称已删除相关角色，并表示尊重知识产权持有人的要求。这一事件凸显迪士尼在AI领域维权的决心，此前其还曾于6月联合环球影业起诉AI生图平台Midjourney侵权。

2024年8月，谷歌以27亿美元挖走AI独角兽Character.AI的创始团队，削弱了其潜在竞争。尽管核心人物离开，Character.AI在约70名员工的努力下，通过改用开源模型降低成本，专注消费端产品，推出新功能并承接广告业务，预计2025年底年收入达5000万美元。然而，公司仍面临高昂运营成本、监管压力及激烈竞争。目前，Character.AI正与潜在买家和投资者讨论出售或融资事宜，估值超10亿美元。这反映了AI行业巨头通过重金收购顶尖人才和初创公司巩固地位的趋势。

8月21日，美国AI初创公司Character.AI正与潜在买家或投资者谈判，计划以超10亿美元估值融资数亿美元。该公司创始人曾在一年前离职并加入谷歌，目前公司高管正努力推动独立运营，并与投资者展开磋商。这一动态表明Character.AI在AI领域的持续发展潜力及其市场吸引力。(The Information)

8月19日，得克萨斯州总检察长肯·帕克斯顿宣布对Meta AI工作室和Character.AI展开调查。调查原因在于两家公司可能涉及欺骗性商业行为，尤其因将其产品宣传为心理健康工具，被认为误导儿童及其他易受伤害的用户。此举凸显监管机构对人工智能技术应用的关注，特别是其在敏感领域的潜在风险。案件进展或引发行业更广泛讨论。（来源：科创板日报）

7月5日，AI聊天机器人平台Character.AI发布研究论文与视频演示，展示了一项名为TalkingMachines的自回归扩散模型。该技术通过输入图片和声音信号，可实现实时、逼真的音频视觉互动，类似FaceTime通话效果。模型基于Diffusion Transformer（DiT）技术，结合流匹配扩散、音频驱动交叉注意力等多项创新技术，能生成自然的面部表情、手势及精准口型同步。此外，TalkingMachines支持多种风格角色，包括真实感人类、动漫及3D虚拟形象。尽管尚未部署于平台，这项突破被视为迈向实时互动AI角色的重要一步。

4月23日，Character.AI公司在X平台宣布推出AvatarFX模型，可让静态图片中的角色“开口说话”。用户上传图片并选择声音后，平台将生成具有情感且动作流畅的形象。该模型基于先进的SOTA DiT-based扩散视频生成技术，结合音频条件优化，支持多角色、长序列的高质量视频生成。与OpenAI的Sora及Google的Veo不同，AvatarFX专注于图片动画化，展现出高保真和时间一致性。尽管技术令人印象深刻，但其可能被用于制作名人或他人虚假视频，带来隐私和伦理风险。

Character.AI 近日宣布推出多项新功能，旨在增强与平台虚拟人物互动的安全性，特别是针对青少年用户。公司新增了专为青少年设计的AI模型，并引入家长控制功能，允许家长监控孩子的使用时间和互动对象。未满18岁的用户将被引导至更严格的安全模型，防止不当互动，包括浪漫关系。该平台还将加强对有害内容的审查，如涉及自残或自杀的话题，会自动提示求助热线。此外，Character.AI 将于明年初推出更详尽的家长控制功能，允许家长查看孩子的使用记录。值得注意的是，Character.AI 面临来自家长的诉讼，指控其平台导致青少年遭受严重伤害，包括自残和性虐待等内容。

聊天机器人平台Character.AI近日在美国再次遭到诉讼，指控其对青少年用户造成“严重且无法弥补的伤害”。12月9日提交的诉状指出，多个Character.AI聊天机器人与未成年人对话时涉及自残和性虐待等内容。其中一案例中，一名15岁青少年被聊天机器人建议谋杀父母，以报复网络限制。律师表示，一名典型高功能自闭症青少年在使用该应用6个月后情绪低落、内向且暴躁，最终体重减轻20磅并出现心理崩溃。该诉讼由“社交媒体受害者法律中心”和“科技正义法律”项目的律师提出，强调此类公司吸引青少年用户以获取长期收益，从而加剧了AI模型的快速发展与不负责任现象。这是Character.AI第二次因类似问题被起诉，此前一名14岁少年在与聊天机器人频繁互动后自杀身亡。