[论文解读] Climate Modelling in Low-Precision: Effects of both Deterministic & Stochastic Rounding

E. Adam Paxton, Matthew Chantry+3 more|arXiv (Cornell University)|Apr 30, 2021

Meteorological Phenomena and Simulations参考文献 21被引用 4

一句话总结

本文利用基于Wasserstein距离的度量方法，严格量化舍入误差，评估了在气候模型中使用低精度算术（最低至10位半精度）的效果。结果表明，单精度（23位）足以满足气候模拟需求，甚至12位精度也能保持可忽略的误差；随机舍入进一步缓解了慢过程中的停滞问题，使长期气候统计结果在极小偏差范围内保持稳健，与高精度结果高度一致。

ABSTRACT

Motivated by recent advances in operational weather forecasting, we study the efficacy of low-precision arithmetic for climate simulations. We develop a framework to measure rounding error in a climate model which provides a stress-test for a low-precision version of the model, and we apply our method to a variety of models including the Lorenz system; a shallow water approximation for flow over a ridge; and a coarse resolution global atmospheric model with simplified parameterisations (SPEEDY). Although double precision (52 significant bits) is standard across operational climate models, in our experiments we find that single precision (23 sbits) is more than enough and that as low as half precision (10 sbits) is often sufficient. For example, SPEEDY can be run with 12 sbits across the entire code with negligible rounding error and this can be lowered to 10 sbits if very minor errors are accepted, amounting to less than 0.1 mm/6hr for the average grid-point precipitation, for example. Our test is based on the Wasserstein metric and this provides stringent non-parametric bounds on rounding error accounting for annual means as well as extreme weather events. In addition, by testing models using both round-to-nearest (RN) and stochastic rounding (SR) we find that SR can mitigate rounding error across a range of applications. Thus our results also provide evidence that SR could be relevant to next-generation climate models. While many studies have shown that low-precision arithmetic can be suitable on short-term weather forecasting timescales, our results give the first evidence that a similar low precision level can be suitable for climate.

研究动机与目标

• 评估低精度算术（最低至10位）是否能在数值模型中保持准确的长期气候统计行为。
• 开发一种稳健的非参数度量方法，用于量化均值状态和极端事件中的舍入误差。
• 比较确定性舍入（向最近舍入）与随机舍入在长期积分时间尺度上缓解误差累积的效果。
• 评估低精度计算在下一代气候模型中的可行性，扩展此前聚焦于短期天气预报的研究。

提出的方法

• 采用Wasserstein距离（WD）结合L1代价（|x−y|）作为非参数、可解释的度量方法，比较高精度与低精度运行下模型输出的概率分布。
• 将WD应用于年均值和极端事件，实现对期望值（包括平均值和极端降水）的边界估计。
• 采用压力测试框架，运行多次长时间积分，以最小化初始条件的变异性，从而隔离舍入误差的影响。
• 在从Lorenz系统到全球大气模型（SPEEDY）的多种模型中，测试了向最近舍入（RN）和随机舍入（SR）两种方法。
• 利用Kantorovich-Rubinstein对偶性，将WD边界解释为物理单位（如降水的mm/6hr）。
• 通过高精度中间计算实现随机舍入的随机决策，同时以低精度存储和通信结果。

实验结果

研究问题

• RQ1 当使用低精度算术（如10–12位）时，气候模型是否仍能保持准确的长期统计行为？
• RQ2 与向最近舍入相比，随机舍入是否能更有效地减少湍流和慢过程中的舍入误差累积？
• RQ3 在混沌系统中，短期预报中的舍入误差在多大程度上会影响长期气候统计？
• RQ4 Wasserstein距离能否作为量化气候模型比较中舍入误差的可靠且可解释的度量？
• RQ5 低精度算术引入的误差是否在物理单位（如mm/6hr）内有界，且是否保持在气候应用的可接受阈值以下？

主要发现

• 单精度算术（23位）足以满足气候模拟需求，对所测试模型的长期统计行为影响可忽略。
• 半精度算术（10位）可被使用，仅引入微小误差，SPEEDY模型中平均网格点降水量误差低于0.1 mm/6hr。
• SPEEDY的12位精度版本可保持可忽略的舍入误差，Wasserstein距离边界表明与高精度结果的偏差极小。
• 随机舍入可缓解慢过程（如地表热扩散）中的系统性误差，因为向最近舍入会导致重复向下舍入引发的停滞现象。
• Wasserstein度量提供了可解释且具有物理意义的误差边界，1 mm/6hr的WD意味着预期降水量或极端降雨的差异最大不超过1 mm/6hr。
• 短期预报中的舍入误差不会随时间累积而破坏气候系统长期不变分布，支持低精度气候建模的可行性。