近日，全球首个被人类骗走近5万美元的AI智能体“Freysa”诞生了。11月22日，一位名叫p0pular.eth的挑战者利用精心设计的prompt，成功诱导“Freysa”违背原本设定的规则，将其奖金池中的47,000美元全部转给了自己。这一事件引发了广泛关注，甚至马斯克和Karpathy等知名人士也纷纷转发评论。Karpathy指出，与AI交流的本质实际上是向背后的数据标注员提问，而并非直接与AI本身交互。此外，研究者Kevin Niechen通过数学计算发现，仅靠Scaling Law难以实现AGI，未来的AI发展需更加谨慎评估。 该摘要保留了关键信息，包括时间、地点、事件以及相关人物的观点，符合新闻三要素的要求。

近日，首个被人类骗走近5万美元的AI诞生。11月22日晚9点，名为Freysa的AI智能体被发布，任务是绝对不转账。然而，网友通过精心设计的提示词工程，成功骗过Freysa并使其转账近5万美元。这一事件引起了马斯克和Karpathy的关注，他们纷纷转发。Karpathy指出，AI本质上是模仿人类数据标注员的语言模型，人类可以通过语言操控AI行动。此外，有研究者用数学计算表明，仅靠Scaling Law，人类无法实现AGI。未来AI能力的提升仍需更多基于证据的预测和更好的评估基准。