[論文レビュー] Stochastic control liaisons: Richard Sinkhorn meets Gaspard Monge on a Schroedinger bridge

Yongxin Chen, Tryphon T. Georgiou+1 more|arXiv (Cornell University)|May 22, 2020

Topological and Geometric Data Analysis参考文献 197被引用数 5

ひとこと要約

本稿では、シュレーディンガーの橋問題、最適輸送（OMT）、および確率的制御を統一的な枠組みで結びつける。シュレーディンガーの橋問題に一様事前分布を適用した場合、二次コストを伴うOMTの正則化版に相当し、Sinkhornアルゴリズムはフォルトェの連続的反復法の離散的類似物として現れる。主な貢献は、確率的制御と自由エネルギー最小化を介して、古典的な問題と現代の計算手法との間の厳密な関係を確立することにある。

ABSTRACT

In 1931/32, Schroedinger studied a hot gas Gedankenexperiment, an instance of large deviations of the empirical distribution and an early example of the so-called maximum entropy inference method. This so-called Schroedinger bridge problem (SBP) was recently recognized as a regularization of the Monge-Kantorovich Optimal Mass Transport (OMT), leading to effective computation of the latter. Specifically, OMT with quadratic cost may be viewed as a zero-temperature limit of SBP, which amounts to minimization of the Helmholtz's free energy over probability distributions constrained to possess given marginals. The problem features a delicate compromise, mediated by a temperature parameter, between minimizing the internal energy and maximizing the entropy. These concepts are central to a rapidly expanding area of modern science dealing with the so-called {\em Sinkhorn algorithm} which appears as a special case of an algorithm first studied by the French analyst Robert Fortet in 1938/40 specifically for Schroedinger bridges. Due to the constraint on end-point distributions, dynamic programming is not a suitable tool to attack these problems. Instead, Fortet's iterative algorithm and its discrete counterpart, the Sinkhorn iteration, permit computation by iteratively solving the so-called {\em Schroedinger system}. In both the continuous as well as the discrete-time and space settings, {\em stochastic control} provides a reformulation and dynamic versions of these problems. The formalism behind these control problems have attracted attention as they lead to a variety of new applications in spacecraft guidance, control of robot or biological swarms, sensing, active cooling, network routing as well as in computer and data science. This multifacet and versatile framework, intertwining SBP and OMT, provides the substrate for a historical and technical overview of the field taken up in this paper.

研究の動機と目的

• シュレーディンガーの橋問題と最適輸送（OMT）の理論的基盤を、確率的制御の形式的枠組みで統一すること。
• 1930年代のエリック・シュレーディンガーの業績、1940年代のロベルト・フォルトェの連続的反復法、1960年代のリチャード・Sinkhornの離散的アルゴリズムとの間の歴史的・技術的関連を明確にすること。
• シュレーディンガーの橋問題のゼロ温度極限が、Benamou-Brenierの動的定式化による最適輸送を回復することを示すこと。
• 反復的IPF-Sinkhornアルゴリズムがヒルベルトの射影距離における収束を示し、フォルトェの連続的収束証明を離散的状況に拡張すること。
• 確率的制御を、ブリッジ問題の一般化およびロボット工学、ネットワークルーティング、宇宙船誘導への応用を可能にする自然な枠組みとして位置づけること。

提案手法

• シュレーディンガーの橋問題を、周辺分布制約の下でのヘルムホルツ自由エネルギー最小化という確率的制御問題として定式化する。
• 条件付き期待値とマルティングール測度を含む変分問題の解としてシュレーディンガー系を導出する。
• 内部エネルギーとエントロピーのトレードオフを制御する温度パラメータを伴う、最小エネルギー原理とエントロピー正則化を適用する。
• ヒルベルトの射影距離を用いて、離散的状況におけるIPF-Sinkhornアルゴリズムの収束を証明し、フォルトェの連続的収束結果を一般化する。
• 二次コストを伴う最適輸送問題を、シュレーディンガーの橋問題のゼロ温度極限として再構成する。
• 経路空間上での制約付きギブズ変分原理を通じて、正則化されたOMT問題と離散的シュレーディンガー橋問題の等価性を確立する。

実験結果

リサーチクエスチョン

• RQ1 シュレーディンガーの橋問題は、ゼロ温度極限において二次コストを伴う最適輸送とどのように関係するか？
• RQ2 Sinkhornアルゴリズムと、連続空間におけるシュレーディンガー橋を解くためのフォルトェの反復法との間にはどのような関係があるか？
• RQ3 なぜ動的計画法はシュレーディンガーの橋問題に不適切であり、代替的な枠組みは何か？
• RQ4 確率的制御の定式化は、ネットワークルーティングやスウォーム制御への一般化と応用をどのように可能にするか？
• RQ5 自由エネルギー関数は、統計力学、情報理論、最適輸送を統合する役割を果たすのはなぜか？

主な発見

• 一様事前分布を伴うシュレーディンガーの橋問題は、二次コストを伴うモンゴー＝カンタロヴィチの最適輸送問題の正則化版と等価である。
• シュレーディンガーの橋問題のゼロ温度極限は、ベナム＝ブレニエの動的定式化による最適輸送を回復し、マッキャンの移動距離補間フローを特徴付ける。
• IPF-Sinkhornアルゴリズムはヒルベルトの射影距離において収束し、フォルトェの1940年の連続的収束証明を離散的状況に拡張した。
• シュレーディンガー系の反復的解法は、周辺分布制約の下でのヘルムホルツ自由エネルギー最小化に対応し、統計力学と情報理論を結びつける。
• 確率的制御の枠組みは、ブリッジ問題の自然な一般化を提供し、ロバストなネットワークルーティングやアクティブクーリングへの応用を可能にする。
• 形式的枠組みは、シュレーディンガーの橋問題における最も確率の高い経路が時間反転に対して不変であることを明らかにし、これはOMT問題では共有されない性質である。