[論文レビュー] Building the Tangent and Adjoint codes of the Ocean General Circulation Model OPA with the Automatic Differentiation tool TAPENADE

Moulay Hicham Tber, Laurent Hascoët+2 more|ArXiv.org|Nov 28, 2007

Reservoir Engineering and Simulation Methods被引用数 10

ひとこと要約

本稿では、TAPENADE自動微分ツールを用いて、OPA海洋一般循環モデルの接線型および随伴モデルの自動生成を提示する。逆モードADとGriewank-Waltherの二項チェックポイントアルゴリズムを適用することで、開発コストを抑えながらも高い精度の導関数を達成した。双子実験および差分商との比較による検証により、従来の手動コーディングに比べて開発時間を大幅に短縮した。

ABSTRACT

The ocean general circulation model OPA is developed by the LODYC team at Paris VI university. OPA has recently undergone a major rewriting, migrating to FORTRAN95, and its adjoint code needs to be rebuilt. For earlier versions, the adjoint of OPA was written by hand at a high development cost. We use the Automatic Differentiation tool TAPENADE to build mechanicaly the tangent and adjoint codes of OPA. We validate the differentiated codes by comparison with divided differences, and also with an identical twin experiment. We apply state-of-the-art methods to improve the performance of the adjoint code. In particular we implement the Griewank and Walther's binomial checkpointing algorithm which gives us an optimal trade-off between time and memory consumption. We apply a specific strategy to differentiate the iterative linear solver that comes from the implicit time stepping scheme

研究の動機と目的

• OPA海洋モデルの接線型および随伴コードの自動生成を実現し、これまでは数か月にわたる手作業による実装を要していた。
• 大規模海洋モデルにおける随伴モデルの手作業コーディングに伴う開発コストとエラーのリスクを低減すること。
• 数値比較および双子実験を用いて、自動生成された導関数の精度と性能を検証すること。
• 二項法のような高度なチェックポイント戦略を用いて、随伴コードの効率を最適化すること。
• TAPENADEが海洋学分野の大規模FORTRAN95科学コードに、実用的かつスケーラブルに適用可能であることを示すこと。

提案手法

• FORTRAN95で記述されたOPA 9モデルに対して、TAPENADEの逆モード自動微分を適用する。
• GriewankおよびWaltherの二項チェックポイントアルゴリズムを用いて、随伴計算におけるメモリおよび時間的オーバーヘッドを最小限に抑える。
• 陰解法時間積分スキームで使用される反復線形ソルバーに特化した微分戦略を適応する。
• 差分商との比較および合成観測を用いた双子実験を通じて、導関数の検証を行う。
• 勾配ベース最適化ループを用いた変分データ同化フレームワークに、微分済みコードを統合する。
• プロファイル解析を用いて不要なチェックポイント呼び出しを特定・最適化し、随伴コードの性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 TAPENADEのような自動微分ツールは、大規模海洋一般循環モデルに対して、高精度な接線型および随伴モデルを効果的に生成できるか？
• RQ2 自動生成された随伴コードの性能は、実装時間とメモリ使用量の観点から、手作業で書かれたバージョンと比べてどうか？
• RQ3 長時間の海洋モデルシミュレーションにおいて、メモリ使用量と計算コストのバランスを最適にとるチェックポイント戦略は何か？
• RQ4 陰解法時間積分スキーム内に含まれる反復ソルバーは、自動微分を用いて効果的に微分可能か？
• RQ5 プリプロセッサディレクティブおよび現代的な言語機能を用いて、複雑な科学コードに自動微分をどの程度まで適用できるか？

主な発見

• 自動生成された随伴コードは高い精度を達成しており、差分商および双子実験による検証がなされた。
• 双子実験における目的関数は2桁減少し、真の初期状態への収束が成功したことを示した。
• 二項チェックポイント戦略は、メモリ消費量と計算時間の間で最適なトレードオフを実現し、多段階アプローチを上回った。
• 1000ステップのシミュレーションにおいて、随伴コードの実行速度遅延は前方モデルと比較してわずか7倍に抑えられ、海洋モデル分野では非常に優れた水準であった。
• TAPENADEの使用により、従来数か月を要していた手作業実装と比べ、開発時間が著しく短縮された。
• 双子実験において、ノイズの多い摂動からの真の初期海面水温が正常に回復されたことから、導関数の品質が確認された。