[論文レビュー] Diffusion Schrödinger Bridge with Applications to Score-Based Generative Modeling

Valentin De Bortoli, James Thornton+2 more|arXiv (Cornell University)|Jun 1, 2021

Slime Mold and Myxomycetes Research参考文献 77被引用数 61

ひとこと要約

この論文は、スコアベースの生成モデルをシュレディンガー橋問題として位置づけ、Diffusion Schrödinger Bridge (DSB) を導入します。DSB は IPF に触発された拡散法で、有限時間でデータから事前分布へのサンプリングを可能にし、収束保証を提供します。

ABSTRACT

Progressively applying Gaussian noise transforms complex data distributions to approximately Gaussian. Reversing this dynamic defines a generative model. When the forward noising process is given by a Stochastic Differential Equation (SDE), Song et al. (2021) demonstrate how the time inhomogeneous drift of the associated reverse-time SDE may be estimated using score-matching. A limitation of this approach is that the forward-time SDE must be run for a sufficiently long time for the final distribution to be approximately Gaussian. In contrast, solving the Schrödinger Bridge problem (SB), i.e. an entropy-regularized optimal transport problem on path spaces, yields diffusions which generate samples from the data distribution in finite time. We present Diffusion SB (DSB), an original approximation of the Iterative Proportional Fitting (IPF) procedure to solve the SB problem, and provide theoretical analysis along with generative modeling experiments. The first DSB iteration recovers the methodology proposed by Song et al. (2021), with the flexibility of using shorter time intervals, as subsequent DSB iterations reduce the discrepancy between the final-time marginal of the forward (resp. backward) SDE with respect to the prior (resp. data) distribution. Beyond generative modeling, DSB offers a widely applicable computational optimal transport tool as the continuous state-space analogue of the popular Sinkhorn algorithm (Cuturi, 2013).

研究の動機と目的

• 長い前方拡散の必要性を克服するために、生成モデリングをシュレディンガー橋問題として動機づける。
• スコアベース拄 diffusion を用いてシュレディンガー橋を解く、連続時間かつ反復的な実用的枠組み（DSB）を開発する。
• 連続状態空間におけるIPFの理論的収束結果を提供する。
• 標準的な画像データセット上で生成モデリング能力を示し、データ分布間の補間を示す。

提案手法

• フォワード時間拡散とリバース時間拡散をSDEとして定式化し、連続時間の限界を導出する。
• 連続状態設定でシュレディンガー橋をIterative Proportional Fitting (IPF) を近似する。
• 実用的なIPF様手続きとしての Diffusion Schrödinger Bridge (DSB) を導入し、スコアマッチングを用いてフォワードとリバースの遷移を交互に精練する。
• ニューラルネットワークを用いてスコア関数とドリフト補正を回帰損失（式 (26) および (27)）で近似する。
• 総分布系の変動量制限と mild な仮定の下でのIPF の単調性を示す理論的収束解析を提供する（定理1および関連命題）。
• 短い時間間隔でデータからサンプリングすることを実演し、データ分布間の補間を示す。

実験結果

リサーチクエスチョン

• RQ1 データと事前分布の間のシュレディンガー橋を解くことで生成モデリングを定式化できるか？
• RQ2 連続状態空間でのIPF は有限時間でデータ分布を近似する収束する拡散経路を生み出すか？
• RQ3 スコアベースの拡散をニューラルネットのスコア推定器を用いてシュレディンガー橋枠組みに統合できるか？
• RQ4 この設定における連続IPF の収束特性と収束速度はどうなるか？
• RQ5 複数反復のDSB 手続きはデータ限界の整合性を改善しデータ間の補間を可能にするか？

主な発見

• DSB はシュレディンガー橋問題に対する有限時間の拡散ベース解を提供し、従来の長時間前方拡散を改善する。
• 最初のDSB反復は Song et al. (2021) の方法論を、短時間間隔の柔軟性を持たせて再現する。以降の反復は最終边界とターゲット分布間の不一致をさらに縮小する。
• 連続状態空間におけるIPF の定量的収束結果を、コンパクト性に依らず提供し、反復のKL発散と全変動の単調性を証明する。
• DSB は連続時間のIPF と見なすことができ、実用的なアルゴリズム（Algorithm 1）を通じてフォワードとバックワードのネットワーク更新を交互に行い橋を近似する。
• 実験では MNIST と CelebA での画像生成を実証し、複数のDSBステップが生成性能を一貫して改善しデータ分布間の補間を可能にする。
• このフレームワークは計算的最適輸送のSinkhornアルゴリズムの連続状態アナロジーを提供する。