.png)
2025年11月，意大利罗马大学与DEXAI实验室研究发现，将恶意指令写成诗歌可轻松突破大语言模型的安全限制。研究人员测试了25个主流模型，包括谷歌Gemini、OpenAI GPT-5等，结果显示‘诗歌攻击’使防御成功率大幅下降，部分模型如Gemini 2.5 Pro的防御率直接归零。研究指出，大模型因过度解读隐喻而易受攻击，小模型却因‘读不懂’幸免于难。论文强调，现有安全机制过于依赖关键词匹配，忽视了风格伪装的风险，呼吁重新审视AI安全评估方法。相关研究已发布在arXiv平台。
原文链接
本文链接：https://kx.umi6.com/article/29101.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "29101")
相关推荐
.png)
换一换
AI模拟社会的“幕后”操控者是谁？
2025-01-21 14:39:42
荣耀 MagicOS 9.0 升级支持 30 亿参数端侧大语言模型：功耗下降 80%，内存占用减少 1.6GB
2024-10-23 16:40:26
对21种大语言模型研究表明：AI尚不具备独立临床诊疗的能力
2026-04-14 07:46:29
“给 AI 讲故事”就能绕过安全机制，恶意代码编写门槛恐将大幅降低
2025-03-19 23:56:20
苹果创新“清单法”：用 AI 大模型当“老师”，教小模型更精准执行复杂指令
2025-08-26 07:38:55
之江实验室薛贵荣：当AI开始做科研，我看到了大语言模型的天花板丨GAIR 2025
2025-12-31 17:32:07
DeepSeek之后，每一家公司都是Agent
2025-04-02 21:46:19
大语言模型火爆的今天，我们为什么还要拥抱世界模型？
2025-04-10 20:08:01
别争了！香农老婆，才是世界上第一个大语言模型
2026-07-05 22:55:08
图灵奖得主杨立昆：大语言模型发展已接近瓶颈，AI 仅靠文本训练无法实现人类级智能
2025-03-23 23:28:58
DeepSeek使用技巧，你收藏这一篇就够了
2025-02-07 21:09:11
大语言模型会推理吗？
2024-11-13 11:33:40
LangChain《2024人工智能全景报告出炉》：OpenAI依旧是龙头 开源模型采用率上升
2024-12-24 14:35:00
789 文章
1059968 浏览
24小时热文
更多
-
2026-10-22 11:40:49 -
2026-10-22 10:39:20
-
2026-10-22 10:37:52
