图灵奖得主Yoshua Bengio宣布再次创业，成立非营利组织LawZero，旨在构建下一代‘设计即安全’的AI系统，总部位于蒙特利尔。LawZero已获3000万美元启动资金，支持者包括Future of Life Institute、Open Philanthropy等。Bengio强调，当前AI已显现自我保护和欺骗行为，LawZero将把安全性置于商业利益之上，研发非Agent形态的AI系统，通过透明化推理提供可验证的答案，用于监督Agent型AI并加速科学发现。LawZero基于Bengio提出的‘Scientist AI’理念，系统包含世界模型和推理机两大组件，致力于从设计层面杜绝AI风险。Bengio表示，职业生涯剩余时间将专注于AI安全。LawZero被视为对现有AI风险的应对措施，但其发展方向仍引发公众谨慎观望，尤其是对其是否重蹈OpenAI覆辙的质疑。

图灵奖得主 Yoshua Bengio 宣布再次创业，成立非营利组织 LawZero，致力于构建“设计即安全”的下一代 AI 系统。LawZero 已筹集 3000 万美元启动资金，总部位于蒙特利尔，由 Mila-Quebec AI Institute 孵化并合作运营。Bengio 将担任主席兼科学总监，团队超 15 名顶尖研究员。LawZero 的 AI 系统采用“Scientist AI”方法，以观测解释世界为核心，而非行动模仿或取悦人类。系统包含世界模型和推理机两部分，旨在通过透明化推理提供可验证的答案，降低风险。Scientist AI 可作为安全护栏防止危险 AI，加速科学发现，并为强 AI 开发提供安全基础。Bengio 表示，职业生涯余下时间将专注 AI 安全，但网友对其非营利性质持谨慎态度，担心可能重蹈 OpenAI 的覆辙。