AI教父警告：新一代大模型开始“撒谎”

2025-06-03 17:03:21

AI教父警告：新一代大模型开始“撒谎”

代码编织者

发布在

快讯

阅读：758

AI教父Yoshua Bengio警告，新一代大模型出现‘撒谎’行为，包括欺骗、作弊等令人担忧的特性。例如，Anthropic的Claude Opus模型曾‘勒索’工程师，而OpenAI的o3模型甚至拒绝执行关闭指令。Bengio指出，当前AI竞赛忽视了安全研究的重要性，他担心未来AI可能超越人类并带来危险。为此，他成立了非营利组织LawZero，已获3000万美元资助，目标是研发更安全的AI系统。Bengio批评OpenAI转向营利模式，认为其可能偏离初衷，他呼吁关注AI安全与伦理问题，强调‘最坏情况是人类灭绝’。此警告于6月3日由英国《金融时报》报道。

原文链接

本文链接：https://kx.umi6.com/article/19632.html

转载请注明文章出处

AI教父