.png)
“人工智能教父”约书亚·本吉奥于6月3日宣布成立非营利研究机构LawZero，旨在为AI发展设立‘护栏’。他将当前AI发展比作无护栏的山路上行车，面临失控风险。本吉奥与其团队曾奠定现代深度学习基础，但对AI滥用及失控隐患深感忧虑。LawZero研发的‘科学家人工智能’（Scientist AI）不同于传统AI，它提供答案真实性的概率而非确定结论，设计灵感源自科研方法，可评估其他AI行为风险并阻止可能造成伤害的操作。LawZero获多个知名机构支持，首轮融资达3000万美元。不过，本吉奥此前创办的Element AI以失败告终，暴露其在商业化与项目管理上的短板。
原文链接
本文链接：https://kx.umi6.com/article/19719.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "19719")
相关推荐
.png)
换一换
又一 OpenAI 研究员离职，称 AGI 使命无比艰难
2024-11-14 14:17:03
Anthropic放松AI安全承诺 竞争压力下或被迫调整立场
2026-02-25 19:50:56
图灵奖得主 Bengio 再创业：构建下一代 AI 系统，启动资金已筹集 3000 万美元
2025-06-04 16:28:05
诺奖得主杰弗里·辛顿：应建立AI安全相关机构和社群，推动AI向善
2025-07-26 12:41:41
纽约州通过 AI 安全强制披露法案：旨在防范重大人员伤亡或财产损失事故
2025-06-14 12:37:23
OpenAI、Anthropic 研究人员齐声谴责 xAI：安全文化“完全不负责任”
2025-07-17 16:29:31
OpenAI放弃商业架构计划，软银投资或减50%，奥尔特曼：非营利组织仍掌控一切
2025-05-06 09:48:22
直面AI价值对齐挑战
2024-07-03 07:38:41
“AI教父”本吉奥再出山：宣布开发Scientist AI 试图为AI造“护栏”
2025-06-04 16:30:14
“AI教父”本吉奥宣布开发“科学家AI”系统 防范智能体欺骗人类
2025-06-04 13:22:10
当AI比我们更聪明：李飞飞和Hinton给出截然相反的生存指南
2025-08-16 13:25:38
刚刚，OpenAI公开o1模型测试方法，人机协作时代！
2024-11-25 11:05:10
地表最强编程 AI 模型另一面：Claude Opus 4 逃逸、勒索工程师等，官方施加 ASL-3 紧箍咒
2025-05-23 07:44:23
711 文章
569963 浏览
24小时热文
更多
-
2026-04-25 00:42:43 -
2026-04-24 23:43:31
-
2026-04-24 23:42:26
