2026年1月27日，杭州互联网法院对全国首例生成式AI‘幻觉’引发的侵权案作出一审判决，认定涉事AI平台无过错，驳回原告全部诉求。案件起因于2025年6月，梁某使用某科技公司开发的AI查询高校报考信息时，AI生成不准确内容并‘承诺赔偿’，误导梁某。法院审理指出，AI不具备民事主体资格，其生成内容及‘承诺’无法律效力；平台已通过显著提示和优化技术尽到注意义务；原告未证明实际损害且因果关系不成立。判决强调公众应理性看待AI局限性，重大决策需多方验证。该案明确了AI生成内容的法律性质与平台责任边界，为行业发展提供指引。

2025年6月，中央网信办启动“清朗·整治AI技术滥用”专项行动，重点整治利用AI制作色情低俗内容及假冒他人侵权行为。近期，AI换脸、换装等技术被滥用，导致高校导师、白领小雅、青岛保时捷女销冠及台球运动员王思诺等人陷入诈骗或恶意造谣风波。《每日经济新闻》记者实测12款AI应用发现，5款可实现明星“一键换装”，9款生成“擦边”图片。社交平台充斥AI生成的“擦边”内容，部分账号借此吸粉变现。专家指出，技术防线薄弱源于算力成本考量和界定标准模糊，建议明确“擦边”内容标准并提高违法成本。平台虽标注“疑似AI创作”，但审核与防控仍需加强。