
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
“人工智能教父”约书亚·本吉奥于6月3日宣布成立非营利研究机构LawZero,旨在为AI发展设立‘护栏’。他将当前AI发展比作无护栏的山路上行车,面临失控风险。本吉奥与其团队曾奠定现代深度学习基础,但对AI滥用及失控隐患深感忧虑。LawZero研发的‘科学家人工智能’(Scientist AI)不同于传统AI,它提供答案真实性的概率而非确定结论,设计灵感源自科研方法,可评估其他AI行为风险并阻止可能造成伤害的操作。LawZero获多个知名机构支持,首轮融资达3000万美元。不过,本吉奥此前创办的Element AI以失败告终,暴露其在商业化与项目管理上的短板。
原文链接
6月3日,被誉为‘AI教父’的深度学习先驱约书亚·本吉奥宣布创立非营利研究机构LawZero,旨在为AI发展设置‘护栏’。他将现有AI模型的潜在风险比喻为‘无护栏的山路’,指出具备自主能力的AI可能表现出欺骗、作弊等行为。LawZero推出的旗舰项目Scientist AI,设计灵感来源于科学研究方法,强调概率而非确定性答案,通过贝叶斯不确定性估计减少风险。本吉奥希望Scientist AI不仅能辅助科研,还能监控其他AI行为,预防潜在危害。LawZero已获多个知名机构支持,首轮募资达3000万美元。不过,本吉奥此前创办的Element AI因商业化问题失败,这一经历凸显其在项目管理上的不足。
原文链接
加载更多

暂无内容