标题:北大林宙辰团队论文:从数据中自适应学习时序预测损失丨ICLR 2026
在多步时间序列预测任务中,预测性能随时间步长迅速退化几乎成为共识。例如,在气象、金融和电力负荷预测中,短期预测较为准确,但长期预测误差显著放大,趋势与周期逐渐偏离真实轨迹。这种现象通常被归因于模型表达能力不足或依赖建模不够。然而,研究发现,问题的根源可能在于训练阶段使用的损失函数。
当前,绝大多数方法仍以逐时间点的均方误差(MSE)作为优化目标,默认未来不同时间点相互独立且重要性一致。但现实中,未来时间点之间存在相关性,预测难度也随时间跨度增加而变化。若损失函数无法刻画这些特性,模型在长期预测中出现系统性偏差便不可避免。
针对这一问题,林宙辰团队提出了QDF(Quadratic Direct Forecast)方法,核心创新在于将损失函数本身视为可学习对象,通过数据自适应地“发现”最适合特定任务的损失形式。QDF基于高斯误差假设,构建了一个二次型损失函数,其权重矩阵能够显式建模标签间的相关性和不同预测步的不确定性差异,从而打破MSE的两个不合理先验假设。
为解决权重矩阵难以估计的问题,研究团队引入双层优化机制,通过元学习从数据中学习最优权重矩阵。实验表明,QDF在稳定性和性能上限上均优于现有方法,尤其在处理周期性时间序列时表现出更高一致性,有效保留了时间结构。
这项研究推翻了多步预测可被视为多个独立等权重回归任务的传统假设,并展示了如何从统计建模出发反推优化目标的合理形式。它不仅为时间序列预测提供了新视角,也为元学习思想在该领域的应用提供了理论和实践参考。
论文第一作者王浩为浙江大学博士研究生,研究方向包括因果推断和多任务学习;通讯作者林宙辰为北京大学教授,机器学习和数值优化领域专家。
论文链接:https://arxiv.org/pdf/2511.00053v1
参考链接:https://zhouchenlin.github.io/
-
2026-02-12 12:27:10 -
2026-02-12 12:26:05 -
2026-02-12 12:25:00