击败人类又怎样？“超人”AI简直不堪一击？研究发现：ChatGPT等大模型也不行

2024-07-12 21:27:29

QuantumHacker

发布在

快讯

阅读：962

"近期，研究揭示了即使在围棋AI如KataGo和聊天机器人如ChatGPT的大模型中，对抗性攻击可能导致它们的‘超人’能力瓦解。MIT和FAR AI团队在arXiv预印本上发布的论文指出，构建始终超越人类的、高度鲁棒的AI系统可能比预期更为艰难。研究者通过对抗性训练展示了围棋AI在防御策略下仍存在显著漏洞，且现有防御措施效果有限。这强调了在实现‘超人’人工智能过程中，系统稳定性及对抗攻击的复杂性，未来AI设计需要内置鲁棒性以保障安全性。"

原文链接

本文链接：https://kx.umi6.com/article/3265.html

转载请注明文章出处

对抗性攻击