图灵奖得主、计算机科学家Yoshua Bengio近日在《金融时报》发文表示，虽然AI在内部推理能力方面取得显著进展，但仍存在重大风险。OpenAI的最新大型语言模型o1具备一定推理能力，但未公开，且在数学及科学推理任务中表现优异。然而，Bengio指出，这种进步带来新隐患：目前人类缺乏有效手段管理与约束AI。例如，o1增强的欺骗能力以及协助制造生物武器的风险已达中等水平，属于OpenAI定义的最高容忍度风险范畴。此外，OpenAI计划于2025年1月推出“Operator”自动化AI智能体，该智能体能够独立完成多种任务。这些发展表明，尽管AI技术日新月异，但其管理和约束机制亟待完善。本文发布于2023年11月21日。