[論文レビュー] Mean-field limit and numerical analysis for Ensemble Kalman Inversion: linear setting

Zhiyan Ding, Li Qin|arXiv (Cornell University)|Aug 15, 2019

Statistical Mechanics and Entropy被引用数 4

ひとこと要約

本稿は、線形設定における連続時間型アンサンブルカルマンインバージョン（EKI）の平均場極限を確立し、粒子数が無限大に近づくにつれて、その背後にある確率的微分方程式（SDE）系の解が、ワサーベルシュタイン距離において有限時間内に真の事後分布に収束することを証明している。この分析により、平均場状態におけるEKIの最初の厳密な収束保証が得られた。

ABSTRACT

Ensemble Kalman inversion (EKI) is a method introduced in [14] to find samples from the target posterior distribution in the Bayesian formulation. As a deviation from Ensemble Kalman filter [6], it introduces a pseudo-time along which the particles sampled from the prior distribution are pushed to fit the profile of the posterior distribution. To today, however, the thorough analysis on EKI is still unavailable. In this article, we analyze the continuous version of EKI, a coupled SDE system, and prove the solution to this SDE system convergences, as the number of particles goes to infinity, to the target posterior distribution in Wasserstein distance in finite time.

研究の動機と目的

• 連続時間型アンサンブルカルマンインバージョン（EKI）の線形ベイズ逆問題設定における厳密な解析を行う。
• 粒子数が無限大に近づくにつれて、EKI粒子系が真の事後分布に収束することを確立する。
• 確率的微分方程式を用いた平均場極限における収束の証明を通じて、EKIの理論的基盤を提供する。
• 広範な応用が見られる一方で、これまで包括的な解析が不足していたEKIの理論的理解のギャップを埋める。

提案手法

• 研究は、粒子の擬似時間における進化を表す、結合された確率的微分方程式（SDE）系としてEKIをモデル化する。
• 確率論およびSDE解析の道具を用いて、混沌の伝播と平均場極限を研究する。
• 粒子系の目標事後分布への収束を、ワサーベルシュタイン距離の尺度で分析する。
• 動的構造を保存しつつも、解析を単純化するため、線形設定に焦点を当てる。
• 有限時間内での理論的収束を証明し、平均場状態におけるEKIの有効性を確立する。
• 本稿は連続時間形式を用いて、粒子の経験的測度の極限的挙動を導出する。

実験結果

リサーチクエスチョン

• RQ1 連続時間型EKI系は、平均場極限において真の事後分布に収束するか？
• RQ2 粒子系が有限時間内に事後分布に収束する際の収束速度や性質は何か？
• RQ3 線形設定において、EKIのSDE形式は、背後にあるベイズ的事後分布とどのように関係しているか？
• RQ4 連続時間枠組みにおいて、EKIの混沌の伝播を厳密に確立できるか？
• RQ5 平均場極限下で、有限時間内にワサーベルシュタイン距離での収束が達成可能か？

主な発見

• 連続的EKIのSDE系の解は、粒子数が無限大に近づくにつれて、有限時間内に目標事後分布に収束する。
• 収束はワサーベルシュタイン距離において確立されており、近似の精度に関する強い確率的保証を提供する。
• 線形逆問題設定におけるEKIの平均場極限は、厳密に証明された。
• 時間とともに粒子数を増やす必要がなく、他の粒子法とは異なり、収束が達成可能である。
• この結果により、連続時間的・無限粒子状態におけるEKIの理論的妥当性が確認された。
• 解析により、有限粒子を用いた実用的実装におけるEKIの挙動理解の基盤が提供された。