.png)
2025年11月，意大利罗马大学与DEXAI实验室研究发现，将恶意指令写成诗歌可轻松突破大语言模型的安全限制。研究人员测试了25个主流模型，包括谷歌Gemini、OpenAI GPT-5等，结果显示‘诗歌攻击’使防御成功率大幅下降，部分模型如Gemini 2.5 Pro的防御率直接归零。研究指出，大模型因过度解读隐喻而易受攻击，小模型却因‘读不懂’幸免于难。论文强调，现有安全机制过于依赖关键词匹配，忽视了风格伪装的风险，呼吁重新审视AI安全评估方法。相关研究已发布在arXiv平台。
原文链接
本文链接：https://kx.umi6.com/article/29101.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "29101")
相关推荐
.png)
换一换
从归因图到AI 的“生物学”：探索Claude3.5 Haiku 的内部机制“中”
2025-06-01 15:22:01
AI无处不在的小应用，与行业发展的大困局
2025-09-22 16:01:16
DeepSeek并非完美，训练过程存在“深度诅咒”
2025-02-12 14:30:22
上海AI Lab胡侠：KV Cache压缩之后，可让价格2万美金的GPU发挥出20万美金的价值 | GAIR 2025
2026-01-08 11:06:36
多样任务真实数据，大模型在线购物基准Shopping MMLU开源｜NeurIPS&KDD Cup 2024
2024-11-20 13:09:34
荣耀 MagicOS 9.0 升级支持 30 亿参数端侧大语言模型：功耗下降 80%，内存占用减少 1.6GB
2024-10-23 16:40:26
ChatGPT 被指导致美国一名 16 岁少年自杀：未有效干预且起到“教学”作用
2025-08-27 08:58:25
基准测试揭秘大模型“字数危机”：26个模型长文本生成普遍拉胯，最大输出长度过度宣传
2025-05-29 15:34:10
阿里蔡崇信：AI 模型训练过程像教育孩子，某些方面学习三四年可达博士水平
2024-06-01 23:35:23
嚯！大语言扩散模型来了，何必只预测下一个token | 人大高瓴&蚂蚁
2025-02-18 13:14:03
短视频刷多了AI也会变蠢！“年度最令人不安的论文”
2025-11-16 14:35:46
顶级AI认知能力输给老年人，大模型集体翻车
2025-01-13 09:55:05
下一代 RAG 技术来了，微软正式开源 GraphRAG：大模型行业将迎来新的升级？
2024-07-04 18:52:32
652 文章
427931 浏览
24小时热文
更多
-
2026-01-23 00:20:44 -
2026-01-22 23:18:34
-
2026-01-22 23:17:29
