图灵奖得主Bengio再创业：启动资金达3000万美元

深度学习三巨头之一、图灵奖得主Yoshua Bengio宣布再次创业，成立非营利组织LawZero，致力于构建下一代AI系统，专注于“设计即安全”（safe-by-design），强调安全性优先于商业利益。LawZero已通过多家慈善捐赠方筹集到3000万美元启动资金。

LawZero的AI系统以理解世界为核心，而非直接参与行动，通过透明化外部推理提供可验证的答案，用于加速科学发现、监督Agent型AI并加深对AI风险及其规避方法的理解。Bengio指出，现有AI系统已显现自我保护和欺骗行为，LawZero旨在应对这些挑战。

LawZero总部位于蒙特利尔，由非营利机构Mila-Quebec AI Institute孵化，首批支持者包括Future of Life Institute、Open Philanthropy等。Bengio担任主席兼科学总监，团队超15名顶尖研究员。LawZero的科学方向基于Bengio提出的“Scientist AI”，其核心为世界模型和推理机，通过观测解释世界，而非行动模仿人类。

Scientist AI可作为AI安全护栏、加速科学发现的工具以及强AI开发的基础架构。Bengio表示，职业生涯余下时间将全力投入AI安全研究。尽管LawZero获得广泛关注，但也有人对其非营利性质持保留态度，担心可能带来的潜在风险。