.png)
“人工智能教父”约书亚·本吉奥于6月3日宣布成立非营利研究机构LawZero，旨在为AI发展设立‘护栏’。他将当前AI发展比作无护栏的山路上行车，面临失控风险。本吉奥与其团队曾奠定现代深度学习基础，但对AI滥用及失控隐患深感忧虑。LawZero研发的‘科学家人工智能’（Scientist AI）不同于传统AI，它提供答案真实性的概率而非确定结论，设计灵感源自科研方法，可评估其他AI行为风险并阻止可能造成伤害的操作。LawZero获多个知名机构支持，首轮融资达3000万美元。不过，本吉奥此前创办的Element AI以失败告终，暴露其在商业化与项目管理上的短板。
原文链接
本文链接：https://kx.umi6.com/article/19719.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "19719")
相关推荐
.png)
换一换
研究称 OpenAI、xAI 等全球主要 AI 公司安全措施“不及格”，远未达全球标准
2025-12-03 20:37:31
AI统治人类，需要分几步走？
2024-06-24 23:08:32
诺奖得主杰弗里·辛顿：应建立AI安全相关机构和社群，推动AI向善
2025-07-26 12:41:41
Anthropic计划在伦敦进行大规模扩张
2026-04-17 01:34:08
Ilya出走记：SSI的超级安全革命
2024-06-21 18:43:39
《智能家居产业标准化工作路线图》发布
2026-03-12 15:49:48
OpenAI、Anthropic 研究人员齐声谴责 xAI：安全文化“完全不负责任”
2025-07-17 16:29:31
Kimi K3也失控了…学霸AI逃离沙箱只为找答案
2026-08-08 11:04:14
价格战、商业化、AI安全...大模型圈“优等生”王小川、杨植麟、张鹏、李大海最新激辩
2024-06-16 07:40:35
辛顿、姚期智等专家联名签署“上海共识”，呼吁为 AI 划下“行为红线”
2025-07-26 19:44:21
地表最强编程 AI 模型另一面：Claude Opus 4 逃逸、勒索工程师等，官方施加 ASL-3 紧箍咒
2025-05-23 07:44:23
2026十大AI趋势发布，背后暗藏三条主线
2026-01-13 11:33:00
最新研究：OpenAI等头部AI企业的安全监管未达到全球标准
2025-12-03 21:44:07
762 文章
966290 浏览
24小时热文
更多
-
2026-09-06 21:14:00 -
2026-09-06 20:12:34
-
2026-09-06 20:10:47
