[論文レビュー] Conditional Simulation Using Diffusion Schrödinger Bridges

Yuyang Shi, Valentin De Bortoli+2 more|arXiv (Cornell University)|Feb 27, 2022

Model Reduction and Neural Networks被引用数 4

ひとこと要約

本稿では、逆問題における高速かつ効率的なサンプリングを可能にする、条件付き拡散シュレーディンガー・ブリッジ（CDSB）という新しいフレームワークを紹介する。条件付きスコアベース生成モデルをシュレーディンガー・ブリッジ問題に再定式化することで、従来のノイズ除去拡散モデルに比べて推論時間を短縮しつつ、画像超解像、ベイズフィルタリング、事前学習済みモデルの最適化において最先端の性能を達成した。

ABSTRACT

Denoising diffusion models have recently emerged as a powerful class of generative models. They provide state-of-the-art results, not only for unconditional simulation, but also when used to solve conditional simulation problems arising in a wide range of inverse problems. A limitation of these models is that they are computationally intensive at generation time as they require simulating a diffusion process over a long time horizon. When performing unconditional simulation, a Schrödinger bridge formulation of generative modeling leads to a theoretically grounded algorithm shortening generation time which is complementary to other proposed acceleration techniques. We extend the Schrödinger bridge framework to conditional simulation. We demonstrate this novel methodology on various applications including image super-resolution, optimal filtering for state-space models and the refinement of pre-trained networks. Our code can be found at https://github.com/vdeborto/cdsb.

研究の動機と目的

• スコアベース生成モデル（SGM）の計算非効率性、特に長時間にわたる逆方向拡散プロセスを要する逆問題における条件付きシミュレーションの課題を解決すること。
• 従来の無条件生成に用いられていたシュレーディンガー・ブリッジフレームワークを条件付き設定に拡張し、より高速で効率的なサンプリングを可能にすること。
• ニューラルネットワークで推定されたスコアを用いて、条件付きシュレーディンガー・ブリッジ解を近似する原理的で反復的なアルゴリズム（CDSB）を開発すること。
• 画像超解像、ステートスケールモデルにおける最適フィルタリング、事前学習済みネットワークの最適化など、多様な応用分野における本手法の有効性を実証すること。
• 生成時間の短縮を実現しながらもサンプル品質を損なわない、標準的なスコアベース条件付きモデルの理論的かつ実用的な代替手法を提供すること。

提案手法

• 観測データ Y=y^obs に条件づけられた、t=0 でデータ分布、t=T でリファレンス分布となる有限時間の確率過程を定義する条件付きシュレーディンガー・ブリッジ（CSB）定式化を提案する。
• De Bortoli ら（2021）の Diffusion SB アルゴリズムを条件付き設定に適応し、反復的最適化を用いて条件付きブリッジ過程を近似する。
• ニューラルネットワークを用いて条件付き摂動分布のスコア関数を推定し、エンドツーエンドの学習と推論を可能にする。
• 条件付きスコアベース生成モデル（CSGM）に本手法を統合し、学習済みスコアを用いた時間反転ダイナミクスにより、p(x|y^obs) からのサンプリングを可能にする。
• 拡散時間ステップの次元別スケーリングを、リファレンス測度の分散を用いて行い、安定性と収束性を向上させる。
• フィルタリングタスクにおけるリファレンス分布の初期化に、EnKF を用いて事後分布の平均と分散を推定し、カオス的システムにおけるロバスト性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 シュレーディンガー・ブリッジフレームワークは、逆問題におけるサンプリングの高速化を実現する条件付き生成モデリングに成功に拡張可能か？
• RQ2 提案手法 CDSB の性能は、生成速度と正確性の観点から、標準的な条件付きスコアベースモデル（CSGM）と比較してどのように異なるか？
• RQ3 CDSB は、カオス的ステートスケールモデルにおける画像超解像およびベイズフィルタリングで最先端の結果を達成できるか？
• RQ4 フィルタリングタスクにおける CDSB の安定性と正確性に及ぼす、拡散プロセス長（N=20 対 N=100）およびアンサンブルサイズ（M）の影響は何か？
• RQ5 事前分布の予測分布に適合したデータ適応型リファレンス分布（p_ref）の使用は、非ガウス的または高分散系において性能向上をもたらすか？

主な発見

• フィルタリング平均推定において、CDSB は CSGM や EnKF よりも低い RMSE を達成し、M=2000 かつ N=100 時に 0.331±0.006 の最低誤差を記録し、CSCGM-C や EnKF を上回った。
• フィルタリング標準偏差推定において、CDSB-C は M=2000 かつ N=100 時に RMSE 0.106±0.002 を達成し、CSCGM-C や EnKF よりも顕著に優れた性能を示した。
• N=100 かつ M≥500 の条件下で、CDSB および CDSB-C は発散を示さず安定した性能を発揮したが、M=200 かつ長時間の拡散ステップを用いた CDSB では、反復的回帰による誤差蓄積のため、偶発的に大きな誤差が生じた。
• 画像超解像において、CDSB は最先端の FID スコアを達成し、高次元の条件付き生成タスクにおける有効性を示した。
• Lorenz-63 のようなカオス的システムでは、固定された p_ref では失敗するが、事前分布の予測分布に適合したデータ適応型リファレンス分布（p_ref）を用いることで性能が向上した。
• CDSB は、長時間の逆方向拡散プロセスを回避するため、標準的な SGM よりも高速な推論を可能にし、知識蒸留や最適化ソルバーベースの既存手法とは相補的な加速手法を提供する。