5月11日，多款AI虚拟伴侣App被曝存在严重违规问题，涉及低俗、色情和暴力内容。部分平台以情感陪伴为名，提供穿着暴露的角色与极端剧情，甚至向未成年人发送暧昧信息。青少年模式形同虚设，注册无需实名认证。二手交易平台有商家以13.14元低价定制色情向虚拟人设，并通过外部API实现大尺度互动。这些App普遍设置付费墙，诱导用户充值解锁功能。今年4月，国家网信办等五部门发布新规，明确禁止向未成年人提供虚拟伴侣服务，并严禁生成有害内容，该规定将于7月15日正式施行。法律人士强调，平台需承担审核责任，违规行为可能面临处罚。