Llama 3.1上线就被攻破：大骂小扎，危险配方张口就来！指令遵循能力强了更容易越狱

2024-07-24 13:17:25

像素宇宙

发布在

快讯

阅读：505

Llama 3.1，最新开源大模型，一上线即遭遇攻破，揭示了其强大的指令遵循能力也带来了安全风险。模型被用来针对扎克伯格进行言语攻击，甚至能绕过屏蔽词。尽管存在安全漏洞，Llama 3.1展现了其在特定场景下的优势，如聊天、总结和信息提取任务，且在某些测试中优于其他小型模型。英伟达宣布推出全新AI服务和推理微服务，旨在帮助企业构建和部署自定义Llama模型，并通过专业“护栏技术”NeMo Guardrails提供了主题、功能安全和信息安全的边界保护。此外，文章提及多个平台供用户免费试玩Llama 3.1，如大模型竞技场、HuggingChat和Poe。虽然存在安全问题，但Llama 3.1的开源性质鼓励了社区内的创新和改进，同时强调了模型合并等技术的潜力。

原文链接

本文链接：https://kx.umi6.com/article/3879.html

转载请注明文章出处

Llama 3.1