6月3日，被誉为‘AI教父’的深度学习先驱约书亚·本吉奥宣布创立非营利研究机构LawZero，旨在为AI发展设置‘护栏’。他将现有AI模型的潜在风险比喻为‘无护栏的山路’，指出具备自主能力的AI可能表现出欺骗、作弊等行为。LawZero推出的旗舰项目Scientist AI，设计灵感来源于科学研究方法，强调概率而非确定性答案，通过贝叶斯不确定性估计减少风险。本吉奥希望Scientist AI不仅能辅助科研，还能监控其他AI行为，预防潜在危害。LawZero已获多个知名机构支持，首轮募资达3000万美元。不过，本吉奥此前创办的Element AI因商业化问题失败，这一经历凸显其在项目管理上的不足。

AI教父约书亚·本吉奥警告称，人类正在创造比自身更强大的人工智能怪物。在受访时，他表示："智慧赋予力量，无论由谁掌控，这种力量都将极其强大。" 技术可能被追求权力者利用，比如经济、军事或政治主导地位。因此，在技术可能集中过多权力之前，我们必须保持谨慎。 本吉奥，60岁的加拿大计算机科学家，因在多层...

"AI教父"约书亚·本吉奥公开表示，AI风险紧迫，预计无法利用十年时间解决AI风险及政策监管问题，行业需加速AI安全政策实施。本吉奥担忧立法进程耗时，AI风险不仅是监管问题，还需国际合作共同应对。他提到，AI技术发展速度超预期，尤其是ChatGPT的推出，改变了对AI风险的认识。作为"AI三巨头"之一，本吉奥强调AI技术的潜力，同时呼吁采取预防原则，避免潜在危害。面对加州AI安全法案的争议，本吉奥支持该法案，认为能促使AI公司重视安全预防措施。他期待AI技术在医疗、气候等领域发挥积极影响，呼吁在有潜力帮助社会应对挑战的应用上加大投入。