近日，AI拟声技术被滥用用于商业欺诈，明星代言造假频现。短视频平台出现假冒全红婵账号，AI伪造声音带货土蜂蜜，误导消费者。此前，张馨予、古天乐、雷军等名人也被AI模仿声音参与虚假广告，甚至涉及中老年保健品骗局。AI造假已形成灰色产业链，成本低廉，仅需付费购买工具包即可实现。受害者不仅限于名人，普通人亦可能被骗。4月29日，全红婵父亲发声谴责AI伪造全家声音售卖蜂蜜。AI换声技术滥用引发社会担忧，专家呼吁加强鉴别能力，同时立法保护声音权益。北京互联网法院已宣判首例AI声音侵权案，并计划推行‘白名单制度’规范AI内容。警惕AI假内容，保持怀疑态度，仍是应对虚假信息的关键。