[論文レビュー] Optimal Transport for Parameter Identification of Chaotic Dynamics via Invariant Measures

Yunan Yang, Levon Nurbekyan+3 more|arXiv (Cornell University)|Apr 30, 2021

Model Reduction and Neural Networks参考文献 69被引用数 7

ひとこと要約

本稿では、Wasserstein距離を用いて不変測度にフィットさせることで、力学的カオス系におけるパrameter同定のための新しい最適輸送ベースの手法を提案する。逆問題をPDE制約最適化として定式化し、フローフローのPerron–Frobenius作用素を用い、随伴法による効率的な勾配計算を導出し、時間微分が利用できない状況においてもスケーラブルで頑健なパrameter推定を可能にする。

ABSTRACT

We study an optimal transportation approach for recovering parameters in dynamical systems with a single smoothly varying attractor. We assume that the data is not sufficient for estimating time derivatives of state variables but enough to approximate the long-time behavior of the system through an approximation of its physical measure. Thus, we fit physical measures by taking the Wasserstein distance from optimal transportation as a misfit function between two probability distributions. In particular, we analyze the regularity of the resulting loss function for general transportation costs and derive gradient formulas. Physical measures are approximated as fixed points of suitable PDE-based Perron--Frobenius operators. Test cases discussed in the paper include common low-dimensional dynamical systems.

研究の動機と目的

• 時間微分が観測不能または信頼できない、疎でノイズが多く、あるいは不連続なデータに起因する、カオス的システムにおけるパrameter同定の課題に対処すること。
• 軌道ベースのフィッティングから統計的フィッティングへのシフトを図り、物理的（不変）測度を用いて長時間の挙動をモデル化すること。
• フローフローのPerron–Frobenius作用素を用いて確率密度を進めるPDE制約最適化フレームワークを構築すること。
• Wasserstein損失関数がシステムパラメータに関して微分可能であることを確立し、勾配ベース最適化を可能にすること。
• 有限体積離散化と随伴法を用いた効率的な計算パイプラインを提供し、スケーラブルなパrameter推定を実現すること。

提案手法

• カオス的システムの物理的測度を、軌道の長時間平均として近似し、状態空間上の確率分布として表現する。
• フローフローのPerron–Frobenius作用素から導かれるFokker–Planck方程式または連続の式を用いて、確率密度の進化をモデル化する。
• 一次精度の上流型有限体積スキームを用いて連続の式を離散化し、前向き問題を数値的に解く。
• シミュレートされた不変測度とデータからの経験的測度との間の二乗Wasserstein距離を、不適合関数として用いる。
• 随伴法を用いてWasserstein損失の解析的勾配式を導出し、パラメータ次元に依存しない計算コストを保証する。
• 勾配を効率的に計算できる「離散化してから最適化する」戦略を実装し、大規模なパrameter推定を可能にする。

実験結果

リサーチクエスチョン

• RQ1 時間微分が利用できない状況において、Wasserstein距離がカオス的システムにおけるパrameter同定のための頑健で微分可能な損失関数として機能できるか。
• RQ2 システムパラメータに関してWasserstein損失関数が微分可能となる条件は何か。また、その勾配はどのように効率的に計算できるか。
• RQ3 Perron–Frobenius作用素を用いたPDEベースの前向きモデルにより、カオス的システムの不変測度はどの程度正確に近似可能か。
• RQ4 本手法の計算効率と高次元パrameter空間におけるスケーラビリティはいかがなっているか。
• RQ5 本手法は、カオス的アトラクタに一般的に見られる複雑なサポート構造を有する特異的・フラクタル的不変測度を処理できるか。

主な発見

• 速度場と輸送コストにやや弱い正則性仮定を課す限り、Wasserstein損失関数はシステムパラメータに関して連続的微分可能である。
• 随伴法により、パラメータ数に依存しないコストで勾配計算が可能であり、高次元パrameter空間におけるスケーラビリティを実現する。
• 低次元カオス的システム（例：Lorenz、Rössler）における数値実験では、長時間軌道統計のみを用いても、高い精度でパrameter推定が収束することが示された。
• 初期条件への感度と測定ノイズに対して頑健であるため、従来の軌道ベース手法に比べて、カオス的領域で優れた性能を示す。
• 有限体積上流スキームにより安定性と保存性が保証され、得られるマルコフ行列はスパースであるため、PDE制約最適化の効率的解法が可能になる。
• 本フレームワークは、従来の密度推定手法が困難とする、フラクタル的サポートや特異的密度を有する不変測度を自然に扱える。