5月29日，随着ChatGPT引发的人工智能热潮，网络安全专家警告黑客正利用大模型工具进行高效攻击，如快速生成病毒、发现软件漏洞及进行深度伪造。大模型的广泛应用使AI算力基础设施和模型本身成为新的攻击目标，过去一年已出现40种不同类型的攻击手段。国内外厂商如微软、谷歌、Palo Alto和CrowdStrike等已推出安全产品应对这一挑战。中国工程院院士张亚勤建议，企业应在AI研发中预留10-30%的资金用于安全研究和产品开发，并强调了对大模型分级管理、内容标识、实体映射系统和安全投入的重要性，以设立清晰的红线边界，共同应对AI带来的安全风险。