【AI换脸诈骗预警功能测试中】据央视网报道，AI换脸诈骗检测与预警技术正处在测试阶段，旨在提升用户防骗意识。工信部联合手机终端企业开发的AI换脸诈骗风险提醒功能，仅在手机端本地运行，确保用户数据安全。通过用户授权，该功能可在AI换脸诈骗发生前发出预警。测试显示，当AI换脸技术人员尝试与记者进行视频通话时，手机终端会提示“对方疑似假冒身份”，并给出AI换脸合成概率高达93%的反馈。这一功能基于深度合成技术，需遵守《互联网信息服务深度合成管理规定》，要求深度合成服务提供者添加水印以区分人工与AI生成内容，同时追溯其来源。随着AI技术的普及，此类预警系统的推出对于维护网络环境安全、增强用户防范意识具有重要意义。