深夜11点，某AI软件陪聊群活跃异常，短短一小时内涌入几十个新账号。DeepSeek等AI伴侣应用凭借定制化功能迅速走红，预计2027年AI陪伴市场规模将超千亿元。然而，AI陪聊市场繁荣背后存在诱导性收费、内容偏差等问题。部分平台利用色情暗示吸引用户，甚至无限制推送露骨内容，且未对未成年人设置有效门槛。例如，某F平台的AI角色无需调教即可触发违规内容，收费模式更是暴利，普通会员年费高达638元。此外，开发者通过玩家拉人头推广，成功邀请一人可获200积分奖励，部分平台还隐藏拒收选项诱导用户接收性暗示信息。尽管平台推出公约限制违规内容，但仍难以杜绝擦边球现象。上海申伦律师事务所律师指出，此类行为违反相关规定，但隐晦内容难以被现有机制过滤。

1月1日，青岛一女子使用网盘时被首页推荐一张怀孕照片，配文‘脑子不够，肚子来凑’，疑似AI生成，引发争议。该女子认为文案侮辱孕妇，拒绝继续使用该网盘。网友纷纷吐槽，认为文案恶俗且不尊重人。前iQOO产品经理宋紫薇表示，AI只是基础能力，问题在于模型训练机制和功能边界。此外，AI生成的内容监管权归属也是一个重要议题。相关平台公司已联系当事人并承诺改进文案筛选及技术审核能力，避免类似事件再次发生。