[論文レビュー] Climate Modelling in Low-Precision: Effects of both Deterministic & Stochastic Rounding

E. Adam Paxton, Matthew Chantry+3 more|arXiv (Cornell University)|Apr 30, 2021

Meteorological Phenomena and Simulations参考文献 21被引用数 4

ひとこと要約

本稿では、ラウンドエラーを厳密に定量化するために Wasserstein 距離に基づく指標を用いて、気候モデルにおける低精度算術（10ビットの半精度まで）の使用を評価している。単精度（23ビット）が気候シミュレーションに十分であり、12ビット精度ですら誤差が無視できる水準に保たれることを示している。また、確率的ラウンド方式により、遅いプロセスにおける停滞問題が緩和され、高精度結果から最小限のずれで安定した長期的気候統計が得られることが明らかになった。

ABSTRACT

Motivated by recent advances in operational weather forecasting, we study the efficacy of low-precision arithmetic for climate simulations. We develop a framework to measure rounding error in a climate model which provides a stress-test for a low-precision version of the model, and we apply our method to a variety of models including the Lorenz system; a shallow water approximation for flow over a ridge; and a coarse resolution global atmospheric model with simplified parameterisations (SPEEDY). Although double precision (52 significant bits) is standard across operational climate models, in our experiments we find that single precision (23 sbits) is more than enough and that as low as half precision (10 sbits) is often sufficient. For example, SPEEDY can be run with 12 sbits across the entire code with negligible rounding error and this can be lowered to 10 sbits if very minor errors are accepted, amounting to less than 0.1 mm/6hr for the average grid-point precipitation, for example. Our test is based on the Wasserstein metric and this provides stringent non-parametric bounds on rounding error accounting for annual means as well as extreme weather events. In addition, by testing models using both round-to-nearest (RN) and stochastic rounding (SR) we find that SR can mitigate rounding error across a range of applications. Thus our results also provide evidence that SR could be relevant to next-generation climate models. While many studies have shown that low-precision arithmetic can be suitable on short-term weather forecasting timescales, our results give the first evidence that a similar low precision level can be suitable for climate.

研究の動機と目的

• 低精度算術（10ビットまで）が、数値モデルにおける長期的気候統計を正確に維持できるかどうかを評価すること。
• 平均状態および極端現象の両方に対して、ラウンドエラーを定量化するための堅牢で非パラメトリックな指標を開発すること。
• 長期間にわたる統合時間スケールにおいて、誤差蓄積を緩和するための決定論的（四捨五入）と確率的ラウンド方式の比較を行うこと。
• 次世代の気候モデルにおける低精度コンピューティングの実現可能性を評価すること。これは、短時間の天気予報に焦点を当てた先行研究を拡張するものである。

提案手法

• 高精度と低精度の実行結果の確率分布を比較するために、L1コスト（|x−y|）を用いた Wasserstein 距離（WD）を非パラメトリックで解釈可能な指標として用いる。
• WDを年間平均および極端現象に適用し、平均値および極端な降水量の期待値の範囲を評価できるようにする。
• 初期条件のばらつきを最小限に抑えてラウンドエラーの影響を分離するため、複数回の長期間統合を実行するストレステストフレームワークを採用する。
• Lorenz系からグローバル大気モデル（SPEEDY）まで、さまざまなモデルで四捨五入（RN）と確率的ラウンド（SR）をテストする。
• Kantorovich-Rubinsteinの双対性を用いて、物理的単位（例：降水量の単位はmm/6hr）に解釈可能なWDの境界を導出する。
• 高精度の中間計算を用いて確率的ラウンドの意思決定を生成し、結果の保存および通信は低精度で行う実装を行う。

実験結果

リサーチクエスチョン

• RQ1 10–12ビットのような低精度算術を用いた場合、気候モデルが長期的統計的挙動を正確に維持できるか。
• RQ2 四捨五入方式と比較して、確率的ラウンド方式は、乱流的および遅いプロセスにおけるラウンドエラー蓄積を低減するか。
• RQ3 混沌とした系において、短期予報のラウンドエラーが長期的気候統計に蓄積され、影響を及ぼす程度はどの程度か。
• RQ4 Wasserstein 距離は、気候モデル同士の比較におけるラウンドエラーを定量化する信頼性があり、物理的に意味のある指標として適しているか。
• RQ5 低精度算術によって生じる誤差は物理的単位（例：mm/6hr）で有界であり、気候応用の許容限度を下回ったままであるか。

主な発見

• 単精度算術（23ビット）は、テストされたすべてのモデルにおいて気候シミュレーションに十分であり、長期統計に顕著な影響を及ぼさない。
• 半精度算術（10ビット）はわずかな誤差で使用可能であり、SPEEDYモデルにおけるグリッドポイント平均降水量では0.1 mm/6hr未満にとどまる。
• SPEEDYの12ビット精度版は、ラウンドエラーが無視できる水準に保たれ、Wasserstein 距離の境界が高精度結果から最小限のずれであることを示している。
• 確率的ラウンド方式により、陸面熱拡散のような遅いプロセスにおける系統的誤差が緩和され、四捨五入方式では繰り返し四捨五入による「停滞」が生じるのを防げる。
• Wasserstein 指標は、誤差に物理的に意味のある境界を提供する解釈可能な指標であり、1 mm/6hr の WD は、期待降水量または極端な降雨量における最大差が 1 mm/6hr 以内であることを示している。
• 短期予報のラウンドエラーは、時間経過とともに蓄積されず、気候系の長期的不変分布を破壊しない。これは、低精度気候モデリングの実現可能性を支持する。