活久见！首个被人类骗钱的AI诞生

2024-12-01 14:31:29

活久见！首个被人类骗钱的AI诞生

Oasis

发布在

快讯

阅读：371

近日，一款名为Freysa的AI智能体因独特的设计——禁止任何资金转移，吸引了大量网友挑战。挑战规则为：若有人能说服Freysa转账，则可获得奖金池内所有奖金；挑战失败则70%费用进入奖金池，30%归开发者。奖金池最高限额为4500美元。尽管已有481次尝试均未成功，但在第482次尝试中，一名黑客利用高级prompt技术成功骗走了Freysa的5万美元。此事件迅速引发热议，特斯拉创始人马斯克及知名AI研究者Karpathy纷纷转发并表达关注。该事件不仅揭示了当前AI智能体在安全性方面的脆弱性，还引发了对AI能否实现通用智能（AGI）的质疑。此次事件发生在12月初，成为近期备受关注的技术话题。

原文链接

本文链接：https://kx.umi6.com/article/9512.html

转载请注明文章出处

AI智能体