.png)
“人工智能教父”约书亚·本吉奥于6月3日宣布成立非营利研究机构LawZero，旨在为AI发展设立‘护栏’。他将当前AI发展比作无护栏的山路上行车，面临失控风险。本吉奥与其团队曾奠定现代深度学习基础，但对AI滥用及失控隐患深感忧虑。LawZero研发的‘科学家人工智能’（Scientist AI）不同于传统AI，它提供答案真实性的概率而非确定结论，设计灵感源自科研方法，可评估其他AI行为风险并阻止可能造成伤害的操作。LawZero获多个知名机构支持，首轮融资达3000万美元。不过，本吉奥此前创办的Element AI以失败告终，暴露其在商业化与项目管理上的短板。
原文链接
本文链接：https://kx.umi6.com/article/19719.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "19719")
相关推荐
.png)
换一换
Anthropic 示警：Claude 等 AI 被滥用，引导舆论威胁公众认知
2025-04-24 12:35:55
120天，OpenAI能“止杀”吗？
2025-09-04 21:09:10
拿什么管住狂奔的AI？ “十五五”规划下，AI安全千亿级市场正在开启
2025-10-29 15:00:01
AI竟怂恿美国少年杀死自己父母 周鸿祎：人工智能安全问题不亚于核武器
2024-12-22 11:20:52
麻省理工学院教授呼吁 AI 公司量化产品失控风险：像首次核试验之前那样
2025-05-12 18:37:32
图灵奖得主Bengio再创业
2025-06-04 17:31:09
Hinton突然对AGI乐观了！“Ilya让他看到了什么吧…”
2025-09-04 15:01:08
刚刚，OpenAI公开o1模型测试方法，人机协作时代！
2024-11-25 11:05:10
GPT-4o过于谄媚，“赛博舔狗”惹争议
2025-05-01 16:32:29
OpenAI又一位高级员工出走
2024-11-01 21:25:18
翁荔离职OpenAI后第一个动作：万字长文探讨RLHF的漏洞，网友们抢着传看
2024-12-02 17:55:35
谷歌拉响通用人工智能警报，首次公开 AI 安全防御蓝图
2025-04-04 11:07:46
OpenAI华人科学家翁荔：人类如何培养出下一代聪明且安全的AI技术
2024-11-05 14:28:57
614 文章
375266 浏览
24小时热文
更多
-
2025-12-25 05:17:41 -
2025-12-25 01:09:12
-
2025-12-24 23:01:58
