[논문 리뷰] Climate Modelling in Low-Precision: Effects of both Deterministic & Stochastic Rounding

E. Adam Paxton, Matthew Chantry외 3명|arXiv (Cornell University)|2021. 04. 30.

Meteorological Phenomena and Simulations참고 문헌 21인용 수 4

한 줄 요약

이 논문은 날씨 예측 모델에서 10비트 이하의 저해상도 정밀도 산술을 사용할 때의 오차를 엄밀하게 측정하기 위해 워샤르스타인 거리 기반 지표를 사용하여 기후 모델에서의 저정밀도 산술의 유효성을 평가한다. 단일 정밀도(23비트)가 기후 시뮬레이션에 충분하며, 심지어 12비트 정밀도라도 무시할 만한 오차를 유지할 수 있음을 입증한다. 스위치 라운딩은 느린 과정에서의 정체 현상을 완화시켜 고정밀도 결과와의 편차가 최소한이 되는 안정적인 장기 기후 통계를 가능하게 한다.

ABSTRACT

Motivated by recent advances in operational weather forecasting, we study the efficacy of low-precision arithmetic for climate simulations. We develop a framework to measure rounding error in a climate model which provides a stress-test for a low-precision version of the model, and we apply our method to a variety of models including the Lorenz system; a shallow water approximation for flow over a ridge; and a coarse resolution global atmospheric model with simplified parameterisations (SPEEDY). Although double precision (52 significant bits) is standard across operational climate models, in our experiments we find that single precision (23 sbits) is more than enough and that as low as half precision (10 sbits) is often sufficient. For example, SPEEDY can be run with 12 sbits across the entire code with negligible rounding error and this can be lowered to 10 sbits if very minor errors are accepted, amounting to less than 0.1 mm/6hr for the average grid-point precipitation, for example. Our test is based on the Wasserstein metric and this provides stringent non-parametric bounds on rounding error accounting for annual means as well as extreme weather events. In addition, by testing models using both round-to-nearest (RN) and stochastic rounding (SR) we find that SR can mitigate rounding error across a range of applications. Thus our results also provide evidence that SR could be relevant to next-generation climate models. While many studies have shown that low-precision arithmetic can be suitable on short-term weather forecasting timescales, our results give the first evidence that a similar low precision level can be suitable for climate.

연구 동기 및 목표

• 저정밀도 산술(최소 10비트)이 수치 모델에서 장기 기후 통계를 정확하게 유지할 수 있는지 평가하는 것.
• 평균 상태와 극단 사건 모두에 걸쳐 반올림 오차를 정량화하기 위한 강력하고 비모수적 지표를 개발하는 것.
• 장기 통합 시간 스케일에서 오차 누적을 완화시키기 위해 결정론적(가장 가까운 정수로 반올림)과 스위치 라운딩을 비교하는 것.
• 미래 기후 모델을 위한 저정밀도 컴퓨팅의 실현 가능성을 평가하며, 이는 이전에 단기 날씨 예측에 집중된 연구를 확장하는 것.

제안 방법

• 고정밀도 및 저정밀도 실행 간 모델 출력의 확률 분포를 비교하기 위해 비모수적이고 해석 가능한 지표로 L1 비용(|x−y|)을 사용한 워샤르스타인 거리(WD)를 사용한다.
• WD를 연간 평균과 극단 사건에 적용하여 평균 및 극단 강수량을 포함한 기대값의 범위를 설정한다.
• 초기 조건의 변동성을 최소화하고 반올림 오차 영향을 분리하기 위해 다수의 장기 통합을 수행하는 스트레스 테스트 프레임워크를 적용한다.
• 로렌츠 시스템부터 글로벌 대기 모델(SPEEDY)에 이르기까지 다양한 모델에서 가장 가까운 정수로 반올림(RN)과 스위치 라운딩(SR)을 테스트한다.
• 칸토로비치-루빈슈타인 이중성 원리를 사용하여 워샤르스타인 거리의 범위를 물리적 단위(예: 강수량의 경우 mm/6시간)로 해석한다.
• 고정밀도 중간 계산을 사용하여 확률적 반올림 결정을 생성하면서도, 저정밀도로 결과를 저장하고 전송한다.

실험 결과

연구 질문

• RQ1 10~12비트와 같은 저정밀도 산술을 사용할 때 기후 모델이 장기 기후 통계를 정확하게 유지할 수 있는가?
• RQ2 가장 가까운 정수로 반올림 대비 스위치 라운딩이 난류 및 느린 과정에서 반올림 오차 누적을 줄이는가?
• RQ3 혼돈 시스템에서 단기 예측의 반올림 오차가 장기 기후 통계에 영향을 미치는 정도는 어느 정도인가?
• RQ4 워샤르스타인 거리가 기후 모델 비교에서 반올림 오차를 정량화하는 데 신뢰성 있고 해석 가능한 지표로 기능할 수 있는가?
• RQ5 저정밀도 산술로 인한 오차가 물리적 단위(예: mm/6시간)로 제한되며 기후 응용 분야에서 허용 가능한 임계값 이하로 유지되는가?

주요 결과

• 단일 정밀도 산술(23비트)이 기후 시뮬레이션에 충분하며, 테스트된 모든 모델에서 장기 통계에 미치는 영향이 무시할 만큼 작다.
• 반정밀도 산술(10비트)는 소량의 오차만 발생시키며, SPEEDY 모델에서 평균 격점 강수량 기준 0.1 mm/6시간 미만의 오차로 사용 가능하다.
• SPEEDY의 12비트 정밀도 버전은 무시할 만한 반올림 오차를 유지하며, 워샤르스타인 거리 기준치가 고정밀도 결과와의 최소한의 편차를 나타낸다.
• 스위치 라운딩은 땅표면 열 확산과 같은 느린 과정에서의 체계적 오차를 완화시켜, 가장 가까운 정수로 반올림 시 반복적인 내림작업으로 인한 정체 현상을 방지한다.
• 워샤르스타인 지표는 오차에 대해 해석 가능하고 물리적으로 의미 있는 범위를 제공하며, 1 mm/6시간의 WD는 기대 강수량 또는 극단 강우량에서 최대 1 mm/6시간의 차이를 의미한다.
• 단기 예측에서 발생하는 반올림 오차는 시간이 지남에 따라 기후 시스템의 장기 불변 분포를 교란하지 않으며, 저정밀도 기후 모델링의 실현 가능성을 뒷받침한다.