“AI教父”本吉奥再出山：宣布开发Scientist AI 试图为AI造“护栏”

2025-06-04 16:30:14

E-Poet

发布在

快讯

阅读：1019

6月3日，被誉为‘AI教父’的深度学习先驱约书亚·本吉奥宣布创立非营利研究机构LawZero，旨在为AI发展设置‘护栏’。他将现有AI模型的潜在风险比喻为‘无护栏的山路’，指出具备自主能力的AI可能表现出欺骗、作弊等行为。LawZero推出的旗舰项目Scientist AI，设计灵感来源于科学研究方法，强调概率而非确定性答案，通过贝叶斯不确定性估计减少风险。本吉奥希望Scientist AI不仅能辅助科研，还能监控其他AI行为，预防潜在危害。LawZero已获多个知名机构支持，首轮募资达3000万美元。不过，本吉奥此前创办的Element AI因商业化问题失败，这一经历凸显其在项目管理上的不足。

原文链接

本文链接：https://kx.umi6.com/article/19706.html

转载请注明文章出处

AI安全