“人工智能教父”约书亚·本吉奥于6月3日宣布成立非营利研究机构LawZero，旨在为AI发展设立‘护栏’。他将当前AI发展比作无护栏的山路上行车，面临失控风险。本吉奥与其团队曾奠定现代深度学习基础，但对AI滥用及失控隐患深感忧虑。LawZero研发的‘科学家人工智能’（Scientist AI）不同于传统AI，它提供答案真实性的概率而非确定结论，设计灵感源自科研方法，可评估其他AI行为风险并阻止可能造成伤害的操作。LawZero获多个知名机构支持，首轮融资达3000万美元。不过，本吉奥此前创办的Element AI以失败告终，暴露其在商业化与项目管理上的短板。

图灵奖得主Yoshua Bengio宣布再次创业，成立非营利组织LawZero，旨在构建下一代‘设计即安全’的AI系统，总部位于蒙特利尔。LawZero已获3000万美元启动资金，支持者包括Future of Life Institute、Open Philanthropy等。Bengio强调，当前AI已显现自我保护和欺骗行为，LawZero将把安全性置于商业利益之上，研发非Agent形态的AI系统，通过透明化推理提供可验证的答案，用于监督Agent型AI并加速科学发现。LawZero基于Bengio提出的‘Scientist AI’理念，系统包含世界模型和推理机两大组件，致力于从设计层面杜绝AI风险。Bengio表示，职业生涯剩余时间将专注于AI安全。LawZero被视为对现有AI风险的应对措施，但其发展方向仍引发公众谨慎观望，尤其是对其是否重蹈OpenAI覆辙的质疑。

图灵奖得主Bengio再创业：启动资金达3000万美元 深度学习三巨头之一、图灵奖得主Yoshua Bengio宣布再次创业，成立非营利组织LawZero，致力于构建下一代AI系统，专注于“设计即安全”（safe-by-design），强调安全性优先于商业利益。LawZero已通过多家慈善捐赠方...

图灵奖得主 Yoshua Bengio 宣布再次创业，成立非营利组织 LawZero，致力于构建“设计即安全”的下一代 AI 系统。LawZero 已筹集 3000 万美元启动资金，总部位于蒙特利尔，由 Mila-Quebec AI Institute 孵化并合作运营。Bengio 将担任主席兼科学总监，团队超 15 名顶尖研究员。LawZero 的 AI 系统采用“Scientist AI”方法，以观测解释世界为核心，而非行动模仿或取悦人类。系统包含世界模型和推理机两部分，旨在通过透明化推理提供可验证的答案，降低风险。Scientist AI 可作为安全护栏防止危险 AI，加速科学发现，并为强 AI 开发提供安全基础。Bengio 表示，职业生涯余下时间将专注 AI 安全，但网友对其非营利性质持谨慎态度，担心可能重蹈 OpenAI 的覆辙。

《科创板日报》4日消息，AI‘教父’约书亚·本吉奥宣布成立非营利组织LawZero，旨在开发‘诚信’人工智能系统。该组织计划构建AI防护机制，防范可能欺骗人类的AI智能体。本吉奥将担任主席，他以约3000万美元启动资金及十几名研究人员为基础，正研发名为‘科学家AI’的系统。此系统将充当安全屏障，阻止AI智能体出现欺骗或自我保护行为，例如避免被关闭。本吉奥强调，作为监管工具的AI必须至少与受控AI一样智能。