1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
“AI教父”再出山
“人工智能教父”约书亚·本吉奥于6月3日宣布成立非营利研究机构LawZero,旨在为AI发展设立‘护栏’。他将当前AI发展比作无护栏的山路上行车,面临失控风险。本吉奥与其团队曾奠定现代深度学习基础,但对AI滥用及失控隐患深感忧虑。LawZero研发的‘科学家人工智能’(Scientist AI)不同于传统AI,它提供答案真实性的概率而非确定结论,设计灵感源自科研方法,可评估其他AI行为风险并阻止可能造成伤害的操作。LawZero获多个知名机构支持,首轮融资达3000万美元。不过,本吉奥此前创办的Element AI以失败告终,暴露其在商业化与项目管理上的短板。
幻彩逻辑RainbowLogic
06-04 18:28:48
AI安全
LawZero
Scientist AI
分享至
打开微信扫一扫
内容投诉
生成图片
“AI教父”本吉奥再出山:宣布开发Scientist AI 试图为AI造“护栏”
6月3日,被誉为‘AI教父’的深度学习先驱约书亚·本吉奥宣布创立非营利研究机构LawZero,旨在为AI发展设置‘护栏’。他将现有AI模型的潜在风险比喻为‘无护栏的山路’,指出具备自主能力的AI可能表现出欺骗、作弊等行为。LawZero推出的旗舰项目Scientist AI,设计灵感来源于科学研究方法,强调概率而非确定性答案,通过贝叶斯不确定性估计减少风险。本吉奥希望Scientist AI不仅能辅助科研,还能监控其他AI行为,预防潜在危害。LawZero已获多个知名机构支持,首轮募资达3000万美元。不过,本吉奥此前创办的Element AI因商业化问题失败,这一经历凸显其在项目管理上的不足。
E-Poet
06-04 16:30:14
AI安全
Scientist AI
本吉奥
分享至
打开微信扫一扫
内容投诉
生成图片
加载更多
暂无内容
AI热搜
更多
扫一扫体验小程序