从不确定到安全：复杂物理系统的安全控制新方法

近年来，深度学习在复杂物理系统控制中的应用日益广泛，但安全性问题却常常被忽视。为解决这一难题，西湖大学吴泰霖课题组提出了SafeDiffCon（Safe Diffusion Models for PDE Control），一种基于扩散模型的安全控制框架。该研究由中科院数学与系统科学研究院的胡佩炎和电子科技大学的钱骁威共同完成，并成功入选人工智能顶级会议ICML 2025。

为何需要安全控制？
复杂物理系统如水下机器人、可控核聚变装置等，往往具有高度非线性和时空耦合特性，控制失误可能导致严重后果。例如，水下机器人可能因失控撞击障碍物，而核聚变装置可能因不安全行为引发设备损坏甚至威胁人员安全。尽管深度学习方法在建模和控制精度上表现出色，但现有技术多关注优化目标，忽略了对安全约束的保障，且缺乏对不确定性的量化能力。

核心思路：用不确定性量化实现安全
研究团队引入共形预测（Conformal Prediction）来量化模型的不确定性。这种方法通过校准集计算预测误差分位数，生成置信区间，确保预测结果以指定概率满足安全限制。针对控制任务中数据分布偏移的问题，团队进一步设计了偏移共形预测，通过对校准集加权调整，提升模型在新任务中的可靠性。

SafeDiffCon框架
SafeDiffCon是一个三阶段算法：
1. 预训练：利用扩散模型学习系统状态到控制序列的映射；
2. 后训练：通过重加权损失函数引导模型生成更安全的控制策略；
3. 推理时微调：结合不确定性分位数，在特定任务中进一步优化控制效果。

实验验证
研究在三个场景中测试了SafeDiffCon：
- 1D Burgers方程：控制状态最大值不超过阈值；
- 2D不可压缩流体：避免烟雾进入危险区域；
- Tokamak磁约束聚变：约束安全因子并优化关键参数。

实验表明，SafeDiffCon是唯一能完全满足安全约束的方法，同时在性能上也达到最优。

论文与代码
论文链接：https://arxiv.org/abs/2502.02205
代码链接：https://github.com/AI4Science-WestlakeU/safediffcon