.png)
2025年11月，意大利罗马大学与DEXAI实验室研究发现，将恶意指令写成诗歌可轻松突破大语言模型的安全限制。研究人员测试了25个主流模型，包括谷歌Gemini、OpenAI GPT-5等，结果显示‘诗歌攻击’使防御成功率大幅下降，部分模型如Gemini 2.5 Pro的防御率直接归零。研究指出，大模型因过度解读隐喻而易受攻击，小模型却因‘读不懂’幸免于难。论文强调，现有安全机制过于依赖关键词匹配，忽视了风格伪装的风险，呼吁重新审视AI安全评估方法。相关研究已发布在arXiv平台。
原文链接
本文链接：https://kx.umi6.com/article/29101.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "29101")
相关推荐
.png)
换一换
全球AI顶会 NeurIPS 2024温哥华开幕，中国校企上百篇论文被收录
2024-12-11 16:36:37
阿里AI TO C 业务启动近千人招聘
2025-08-13 16:39:25
小红书怎么一夜成为全世界网友都爱的翻译软件？
2025-01-20 21:24:11
嚯！大语言扩散模型来了，何必只预测下一个token | 人大高瓴&蚂蚁
2025-02-18 13:14:03
讲座预约 | AI4S 的前世今生：大语言模型与提示学习在科技研发中的应用与潜力丨GAIR Live
2024-09-12 09:43:52
B站亮相 2024 世界人工智能大会，首次展出自研大语言模型
2024-07-05 20:57:56
念首诗，就能让AI教你造核弹！Gemini 100%中招
2025-11-25 15:56:13
LangChain《2024人工智能全景报告出炉》：OpenAI依旧是龙头 开源模型采用率上升
2024-12-24 14:35:00
DeepSeek之后，每一家公司都是Agent
2025-04-02 21:46:19
万字梳理：揭秘 DeepSeek 中的 RL 与 AGI 下一步丨AIR 2025
2025-03-08 11:48:22
英伟达推出 NIM AI 护栏服务，防止模型遭用户“越狱”
2025-01-18 23:40:43
压缩算法为大语言模型“瘦身”
2024-11-22 08:57:50
史上最严中文真实性评估：OpenAI o1第1豆包第2，其它全部不及格
2024-11-21 14:34:25
612 文章
355367 浏览
24小时热文
更多
-
2025-12-07 22:52:28 -
2025-12-07 22:51:22
-
2025-12-07 21:52:07
