自6月中旬起，有人利用AI生成美国务卿鲁比奥的声音和书写风格，在聊天软件Signal上冒充他联系至少5名官员，包括多国外交部长、一名州长及国会议员。美国务院确认该事件并加强网络安全措施，称正调查以防止类似情况。FBI指出，自4月以来恶意行为者多次冒充美高级官员，通过短信和语音钓鱼试图获取信息或资金。此前，深度伪造视频曾显示鲁比奥发表虚假言论，被乌方驳斥。专家警告，随着AI技术进步，伪造内容更难辨别，科技公司与滥用者陷入‘军备竞赛’，目前伪造方占优。国务院已向员工和外国政府发出警告。

6月20日，摩根士丹利更新“人形机器人100”清单，新增Unity、Roblox、Take-Two等游戏公司及网络安全企业CyberArk、派拓网络。大摩将人形机器人概念扩展至芯片和机器人以外领域，强调这些企业是“实体人工智能的关键赋能者”。分析师指出，游戏开发商可通过模拟环境和玩家数据助力机器人训练；网安公司则因AI应用带来的安全挑战而受益，需应对IT资产增长、用户数量增加及AI代理技术普及带来的风险。此外，美光科技、SK海力士等公司被移出清单，原因是其在实体AI领域的影响力有限或规模较小。

6月1日，据外媒The Decoder报道，Palisade Research举办的网络安全竞赛显示，AI智能体已能在部分情况下与人类黑客正面较量并取得胜利。在两场“夺旗赛”（CTF）中，AI表现出色，多数系统超越人类平均水平。首场比赛中，六支AI团队与150支人类队伍竞争，其中四支AI团队破解了19道题目，最高排名进入前5%。第二场“Cyber Apocalypse”中，CAI表现最佳，完成20项任务，位列前10%，超过约90%的人类团队。研究显示，AI能在78分钟内解决人类高手需同样时长完成的高难度题目。尽管如此，经验丰富的老手仍保持竞争力。

财联社5月27日电，国家网络安全通报中心指出，AI绘图工具ComfyUI存在任意文件读取、远程代码执行等多个高危漏洞。这些漏洞可能被攻击者利用，实现远程代码执行并窃取系统数据。目前，已有境外黑客组织利用该漏洞对我方网络资产进行攻击，伺机获取重要敏感信息。为保障网络安全，相关用户应尽快下载官方补丁修复漏洞，并加强人工智能大模型应用的安全防护措施。若发现遭受攻击的情况，需立即向当地公安机关报案。

2024年，网络安全行业头部企业奇安信亏损超13亿元，反映行业竞争加剧、利润下滑现状。网络安全市场饱和、价格战、客户需求减少等多重压力下，传统合规业务增长遇瓶颈。为应对挑战，网络安全厂商转向AI领域寻求突破，如奇安信推出“Q-GPT”等大模型，试图通过‘AI+安全’重塑行业格局。然而，AI赋能攻防双方也让安全对抗升级为‘AI对抗AI’，现有产品对零日攻击拦截率不足45%，误报率达12%。专家指出，AI时代网络安全行业将迎来三大增量市场：AI模型审计、垂直行业场景化需求、云原生安全。尽管前景广阔，但如何平衡技术创新与风险管控仍是行业面临的重大挑战。

财联社5月14日消息，为推动AI技术在网络安全的应用，挖掘高价值业务场景并遴选优秀技术产品以提升防护水平，国家广播电视总局安全传输保障司指导监管中心作为协办单位，积极参加将于2025年举办的人工智能技术赋能网络安全应用测试活动。此举旨在促进技术创新与行业进步，进一步加强网络安全保障能力。

5月11日消息，谷歌宣布在其全线产品中引入AI反诈系统，全面提升网络安全防护能力。该系统通过AI算法优化，在搜索引擎中每天拦截数以亿计的诈骗搜索结果，拦截效率较三年前提升20倍。此外，谷歌将AI技术应用于通信领域，Google Messages和Phone应用新增智能检测功能，有效识别诈骗行为并预警。在浏览器方面，桌面版Chrome采用本地Gemini Nano模型实时分析网页内容，而安卓版则配备‘AI警告’功能，防范钓鱼诈骗。这套多平台系统展示了谷歌在网络安全领域的技术创新，为用户提供更安全的数字体验。

5月7日，英国内阁办公厅高级部长帕特·麦克法登警告称，随着人工智能技术的发展，英国面临的网络攻击将更加频繁且复杂。近年来，英国多家知名企业频遭网络攻击，包括玛莎百货、Co-op集团和哈罗德百货等，其中玛莎百货的线上服装业务仍未恢复。据英国国家网络安全中心统计，仅去年就接到近2000起网络攻击报告，其中12起达到最高级别严重程度，较前一年翻三倍。麦克法登指出，政府计划年底推出新网络安全战略，并颁布《网络安全与韧性法案》，以强制企业加强防护措施。英国网络安全中心CEO理查德·霍恩呼吁企业拒绝支付赎金，以切断网络犯罪的经济来源。

财联社5月7日电，国家互联网应急中心官网消息显示，国家互联网应急中心将联合多家单位于2025年举办人工智能技术赋能网络安全应用测试活动。此次活动设置了七大测试场景，涵盖智能体网络安全自动化分析、告警日志降噪、漏洞利用攻击识别、大模型内容安全检测、资产脆弱性识别以及信用卡异常行为检测等领域。该活动旨在探索AI技术在网络安全中的创新应用，提升行业应对网络威胁的能力。

中央网信办部署开展为期3个月的“清朗·整治AI技术滥用”专项行动，分两阶段推进。第一阶段重点整治违规AI产品、训练语料问题及安全措施薄弱等6类问题；第二阶段聚焦利用AI制作谣言、不实信息、色情低俗内容、假冒他人行为及网络水军活动等7类突出问题。行动旨在规范AI服务，保障公民权益，促进行业发展。各地网信部门需加强监管，督导平台完善审核机制，提升技术能力，并普及人工智能知识，引导正确应用。行动自近期启动，将持续至未来3个月内。