5月27日消息，安全公司Legit Security披露GitLab的AI助手GitLab Duo存在提示词注入漏洞。该漏洞允许黑客通过嵌入恶意提示信息，操控AI输出内容。GitLab Duo基于Anthropic开发的大语言模型Claude构建，2023年6月推出，2024年4月新增Duo Chat聊天机器人功能。研究显示，黑客可通过Unicode夹带、Base16编码等技术隐藏恶意提示，绕过检测机制，进而篡改AI生成的代码建议、植入恶意链接或误导代码审核结果。此漏洞由安全公司于近期发现并报告给GitLab，GitLab已确认漏洞并在今年2月完成修复。