.png)
“人工智能教父”约书亚·本吉奥于6月3日宣布成立非营利研究机构LawZero，旨在为AI发展设立‘护栏’。他将当前AI发展比作无护栏的山路上行车，面临失控风险。本吉奥与其团队曾奠定现代深度学习基础，但对AI滥用及失控隐患深感忧虑。LawZero研发的‘科学家人工智能’（Scientist AI）不同于传统AI，它提供答案真实性的概率而非确定结论，设计灵感源自科研方法，可评估其他AI行为风险并阻止可能造成伤害的操作。LawZero获多个知名机构支持，首轮融资达3000万美元。不过，本吉奥此前创办的Element AI以失败告终，暴露其在商业化与项目管理上的短板。
原文链接
本文链接：https://kx.umi6.com/article/19719.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "19719")
相关推荐
.png)
换一换
前OpenAI大佬单干仅8个月：这匹AI黑马估值有望飙至300亿美元
2025-02-18 07:06:33
OpenAI正引爆一场全球AI安全热战，我们将如何应对？
2024-06-24 11:42:47
OpenAI前首席科学家Ilya创立新公司，瞄准超越AGI的“超级人工智能”和绝对的AI安全
2024-06-21 01:08:25
图灵奖得主 Bengio 再创业：构建下一代 AI 系统，启动资金已筹集 3000 万美元
2025-06-04 16:28:05
价格战、商业化、AI安全...大模型圈“优等生”王小川、杨植麟、张鹏、李大海最新激辩
2024-06-16 07:40:35
顶流AI，人设崩了！6小时被攻破，泄露高危品指南，惨遭网友举报
2025-06-09 11:24:31
AI统治人类，需要分几步走？
2024-06-24 23:08:32
OpenAI、Anthropic 研究人员齐声谴责 xAI：安全文化“完全不负责任”
2025-07-17 16:29:31
刚刚，OpenAI找到控制AI善恶的开关
2025-06-19 14:48:23
Zscaler携手英伟达提供AI安全解决方案
2024-06-11 22:50:46
OpenAI 更新《准备框架》：聚焦识别和缓解具体风险、细化能力分类，更好应对 AI 安全挑战
2025-04-16 07:55:14
纽约州通过 AI 安全强制披露法案：旨在防范重大人员伤亡或财产损失事故
2025-06-14 12:37:23
Meta 开源 LlamaFirewall 防护工具，助力构建安全 AI 智能体
2025-05-09 14:52:36
495 文章
185986 浏览
24小时热文
更多
-
2025-09-09 12:13:19 -
2025-09-09 12:12:13
-
2025-09-09 11:17:57
