.png)
“人工智能教父”约书亚·本吉奥于6月3日宣布成立非营利研究机构LawZero，旨在为AI发展设立‘护栏’。他将当前AI发展比作无护栏的山路上行车，面临失控风险。本吉奥与其团队曾奠定现代深度学习基础，但对AI滥用及失控隐患深感忧虑。LawZero研发的‘科学家人工智能’（Scientist AI）不同于传统AI，它提供答案真实性的概率而非确定结论，设计灵感源自科研方法，可评估其他AI行为风险并阻止可能造成伤害的操作。LawZero获多个知名机构支持，首轮融资达3000万美元。不过，本吉奥此前创办的Element AI以失败告终，暴露其在商业化与项目管理上的短板。
原文链接
本文链接：https://kx.umi6.com/article/19719.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "19719")
相关推荐
.png)
换一换
ChatGPT被人类骗得团团转！测试显示AI搜索极易受到操控和欺骗
2024-12-27 17:08:07
图灵奖得主Bengio、姚期智等警告：“灾难性结果”随时可能发生，需将AI安全视为全球公共产品
2024-09-19 16:34:16
价格战、商业化、AI安全...大模型圈“优等生”王小川、杨植麟、张鹏、李大海最新激辩
2024-06-16 07:40:35
OpenAI又上演权力的游戏
2024-05-24 16:17:42
OpenAI、Anthropic 研究人员齐声谴责 xAI：安全文化“完全不负责任”
2025-07-17 16:29:31
Anthropic放松AI安全承诺 竞争压力下或被迫调整立场
2026-02-25 19:50:56
拿什么管住狂奔的AI？ “十五五”规划下，AI安全千亿级市场正在开启
2025-10-29 15:00:01
GPT-4o过于谄媚，“赛博舔狗”惹争议
2025-05-01 16:32:29
麻省理工学院教授呼吁 AI 公司量化产品失控风险：像首次核试验之前那样
2025-05-12 18:37:32
研究称 OpenAI、xAI 等全球主要 AI 公司安全措施“不及格”，远未达全球标准
2025-12-03 20:37:31
AI时代，我们应该如何看待“安全”新命题？
2024-10-24 11:07:26
图灵奖得主Bengio再创业
2025-06-04 17:31:09
AI「自我复制」能力曝光！RepliBench警示：大模型正在学会伪造身份
2025-05-07 10:04:14
677 文章
481848 浏览
24小时热文
更多
-
2026-03-10 13:19:24 -
2026-03-10 13:18:55
-
2026-03-10 12:13:43
