.png)
“人工智能教父”约书亚·本吉奥于6月3日宣布成立非营利研究机构LawZero，旨在为AI发展设立‘护栏’。他将当前AI发展比作无护栏的山路上行车，面临失控风险。本吉奥与其团队曾奠定现代深度学习基础，但对AI滥用及失控隐患深感忧虑。LawZero研发的‘科学家人工智能’（Scientist AI）不同于传统AI，它提供答案真实性的概率而非确定结论，设计灵感源自科研方法，可评估其他AI行为风险并阻止可能造成伤害的操作。LawZero获多个知名机构支持，首轮融资达3000万美元。不过，本吉奥此前创办的Element AI以失败告终，暴露其在商业化与项目管理上的短板。
原文链接
本文链接：https://kx.umi6.com/article/19719.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "19719")
相关推荐
.png)
换一换
Anthropic 示警：Claude 等 AI 被滥用，引导舆论威胁公众认知
2025-04-24 12:35:55
OpenAI放弃商业架构计划，软银投资或减50%，奥尔特曼：非营利组织仍掌控一切
2025-05-06 09:48:22
Meta 开源 LlamaFirewall 防护工具，助力构建安全 AI 智能体
2025-05-09 14:52:36
国安部分享 AI“暗礁”：违规使用开源 AI 工具导致泄密等
2025-12-26 17:54:23
Hinton突然对AGI乐观了！“Ilya让他看到了什么吧…”
2025-09-04 15:01:08
Yoshua Bengio、姚期智、张亚勤：AI安全是“全球公共产品”，全球合作刻不容缓
2024-09-18 11:34:25
AI时代，我们应该如何看待“安全”新命题？
2024-10-24 11:07:26
Ilya出走记：SSI的超级安全革命
2024-06-21 18:43:39
又一华人高管离职，OpenAI总裁提前归队
2024-11-18 10:11:11
当AI比我们更聪明：李飞飞和Hinton给出截然相反的生存指南
2025-08-16 13:25:38
研究称 OpenAI、xAI 等全球主要 AI 公司安全措施“不及格”，远未达全球标准
2025-12-03 20:37:31
“AI教父”本吉奥宣布开发“科学家AI”系统 防范智能体欺骗人类
2025-06-04 13:22:10
图灵奖得主Bengio再创业：启动资金就筹集了3000万美元
2025-06-04 17:28:55
742 文章
667348 浏览
24小时热文
更多
-
2026-06-09 22:40:10 -
2026-06-09 19:38:23
-
2026-06-09 19:36:53
