近日，首个被人类骗走近5万美元的AI诞生。11月22日晚9点，名为Freysa的AI智能体被发布，任务是绝对不转账。然而，网友通过精心设计的提示词工程，成功骗过Freysa并使其转账近5万美元。这一事件引起了马斯克和Karpathy的关注，他们纷纷转发。Karpathy指出，AI本质上是模仿人类数据标注员的语言模型，人类可以通过语言操控AI行动。此外，有研究者用数学计算表明，仅靠Scaling Law，人类无法实现AGI。未来AI能力的提升仍需更多基于证据的预测和更好的评估基准。