近日，AI拟声技术被滥用用于商业欺诈，明星代言造假频现。短视频平台出现假冒全红婵账号，AI伪造声音带货土蜂蜜，误导消费者。此前，张馨予、古天乐、雷军等名人也被AI模仿声音参与虚假广告，甚至涉及中老年保健品骗局。AI造假已形成灰色产业链，成本低廉，仅需付费购买工具包即可实现。受害者不仅限于名人，普通人亦可能被骗。4月29日，全红婵父亲发声谴责AI伪造全家声音售卖蜂蜜。AI换声技术滥用引发社会担忧，专家呼吁加强鉴别能力，同时立法保护声音权益。北京互联网法院已宣判首例AI声音侵权案，并计划推行‘白名单制度’规范AI内容。警惕AI假内容，保持怀疑态度，仍是应对虚假信息的关键。

近日，Starling银行对英国3000多人进行的调查显示，AI拟声诈骗已成为英国普遍问题，28%的成年人在过去一年内遭遇此类骗局，且近一半（46%）的受访者对此一无所知。这项技术能够仅通过短短3秒的音频，创造出受害者亲友的真实声音。随着AI技术的发展，电信诈骗分子利用AI换脸、AI拟声等手段进行诈...