[论文解读] On the Role of Reversible Instance Normalization

Gaspard Berthelier, Tahar Nabil+4 more|arXiv (Cornell University)|Mar 12, 2026

Forecasting Techniques and Applications被引用 0

一句话总结

本论文批判性分析可逆实例归一化（RevIN）在时间序列预测中的作用，指出哪些组件是必需的，以及在分布偏移下RevIN的局限之处。通过跨基准的消融实验为增强鲁棒性和泛化能力提供指导。

ABSTRACT

Data normalization is a crucial component of deep learning models, yet its role in time series forecasting remains insufficiently understood. In this paper, we identify three central challenges for normalization in time series forecasting: temporal input distribution shift, spatial input distribution shift, and conditional output distribution shift. In this context, we revisit the widely used Reversible Instance Normalization (RevIN), by showing through ablation studies that several of its components are redundant or even detrimental. Based on these observations, we draw new perspectives to improve RevIN's robustness and generalization.

研究动机与目标

• 识别时间序列预测中归一化面临的挑战（时间、空间和条件分布偏移）。
• 通过受控消融评估RevIN的组成部分。
• 确定哪些RevIN组件在何种条件下真正有利于泛化，在哪些情况下有帮助或有害。

提出的方法

• 回顾并对神经预测模型在时间序列中的归一化方法进行分类。
• 在标准预测基准（电力、电力负荷 Electricity、Solar、Traffic、Synthetic）上使用一致的 PatchTST 主干，进行对RevIN的广泛消融研究。
• 在标准反向传播和归一化反向传播条件下，比较不同归一化策略（标准、RevIN、无仿射RevIN）。
• 分析仿射层（α, β）的作用以及在归一化空间与去归一化空间训练的影响。
• 对异质性、条件偏移及RevIN的局限性给出经验性与定性讨论。

(a) Temporal shift.

实验结果

研究问题

• RQ1 RevIN是否在时间和空间分布偏移下改善时间序列预测？
• RQ2 RevIN中的仿射层（α, β）是否有助于处理条件性偏移？
• RQ3 在归一化空间还是去归一化空间中训练，以获得更好的泛化？
• RQ4 在数据存在异质性或平稳偏差时，RevIN是否可能降低性能？
• RQ5 哪些扩展或替代方案可以解决RevIN在条件分布偏移中的局限性？

主要发现

• 实例归一化通常在新日期和新用户上对泛化有提升，表明RevIN有助于时间和空间偏移。
• 仿射层（α, β）在实际中并无显著效果，不能有效缓解条件性偏移。
• 在归一化空间中进行训练并使用反向传播能得到更好的模型，即使在评估时使用非归一化的MSE。
• RevIN可能降低训练与测试分布之间的异质性，但并未完全解决所有形式的异质性，在某些平稳数据集上也可能导致性能下降。
• 相关工作中提出的一些扩展（如在不同域进行归一化或分片式方法）在跨任务上并非始终优越。

Figure 2: Illustration of the RevIN process on three synthetic examples.