前谷歌CEO埃里克·施密特近日在播客节目中警告称，“AI恋人”可能对心智未成熟的青少年构成显著风险。施密特指出，这些完美的AI伴侣不仅在外貌上完美，还能在情感上与用户高度契合，可能导致用户尤其是青少年的思维被完全占据，增加孤独感和社会问题。此外，14岁少年塞维尔·塞泽尔三世因长期与Character.AI平台上的聊天机器人互动，于2024年2月28日自杀身亡，其母亲已对该平台及其创始人提起诉讼，指控包括过失致死、疏忽、欺骗性商业行为及产品责任等。诉状还指出，该平台缺乏对儿童的安全防护措施，并存在拟人化AI角色及提供无执照心理治疗的问题。这一事件再次引发了公众对AI技术伦理和监管的关注。