[論文レビュー] A Newton algorithm for semi-discrete optimal transport

Jun Kitagawa, Quentin Mérigot+1 more|arXiv (Cornell University)|Mar 17, 2016

Point processes and geometric inequalities参考文献 26被引用数 18

ひとこと要約

この論文は、半離散的最適輸送に適した減衰ニュートン法を提案する。実用的な効率性とグローバル収束保証を両立する。Ma-Trudinger-Wang 条件と重み付き Poincaré-Wirtinger 不等式を活用することで、最適な収束速度が達成され、理論的に妥当だが遅いアルゴリズムと、高速だが保証のないソルバーの間の溝を埋める。

ABSTRACT

Many problems in geometric optics or convex geometry can be recast as optimal transport problems: this includes the far-field reflector problem, Alexandrov's curvature prescription problem, etc. A popular way to solve these problems numerically is to assume that the source probability measure is absolutely continuous while the target measure is finitely supported. We refer to this setting as semi-discrete optimal transport. Among the several algorithms proposed to solve semi-discrete optimal transport problems, one currently needs to choose between algorithms that are slow but come with a convergence speed analysis (e.g. Oliker-Prussner) or algorithms that are much faster in practice but which come with no convergence guarantees Algorithms of the first kind rely on coordinate-wise increments and the number of iterations required to reach the solution up to an error of $\epsilon$ is of order $N^3/\epsilon$, where $N$ is the number of Dirac masses in the target measure. On the other hand, algorithms of the second kind typically rely on the formulation of the semi-discrete optimal transport problem as an unconstrained convex optimization problem which is solved using a Newton or quasi-Newton method. The purpose of this article is to bridge this gap between theory and practice by introducing a damped Newton's algorithm which is experimentally efficient and by proving the global convergence of this algorithm with optimal rates. The main assumptions is that the cost function satisfies a condition that appears in the regularity theory for optimal transport (the Ma-Trudinger-Wang condition) and that the support of the source density is connected in a quantitative way (it must satisfy a weighted Poincar\'e-Wirtinger inequality).

研究の動機と目的

• 半離散的最適輸送における、理論的に保証されても遅いアルゴリズムと、高速だが保証のないソルバーの間のギャップを解消すること。
• 厳密な収束解析を維持しながら、数値的に効率的なアルゴリズムを開発すること。
• コスト関数およびソース測度の台に対する幾何的・解析的条件の下で、グローバル収束と最適な収束速度を証明すること。
• 実装が実用的である一方で、理論的限界に近い収束速度を達成できることを確立すること。

提案手法

• 半離散的最適輸送問題を非制約凸最適化問題として定式化する。
• 双対問題を解くために減衰ニュートン法を適用し、各ステップで十分な減少を保証する。
• 双対ポテンシャルの強い凸性と正則性を保証するため、Ma-Trudinger-Wang 条件に依存する。
• ソース測度の台に重み付き Poincaré-Wirtinger 不等式を課して、定量的な連結性を保証する。
• ニュートンステップの安定化とグローバル収束の保証のため、減衰を導入する。
• Oliker-Prussner のような座標ごとの更新が遅い手法を避ける一方で、理論的保証を維持するように設計されている。

実験結果

リサーチクエスチョン

• RQ1 半離散的最適輸送に適したニュートン型アルゴリズムを設計できるか。その場合、実用的で高速な収束と、理論的グローバル収束保証を両立できるか。
• RQ2 コスト関数およびソース測度に対して、最適な収束速度を保証するのに十分な幾何的・解析的条件は何か。
• RQ3 非凸設定において、ニュートン法に減衰を効果的に組み込む方法は何か。グローバル収束を維持できるか。
• RQ4 Ma-Trudinger-Wang 条件は、最適輸送問題へのニュートン法の適用をどの程度可能にするか。
• RQ5 ソース支持に対する定量的な連結性条件は、収束証明における弱い仮定を置き換えることができるか。

主な発見

• 提案された減衰ニュートン法は、Ma-Trudinger-Wang 条件の下でグローバル収束と最適な収束速度を達成する。
• アルゴリズムの収束速度は理論的下限に一致し、誤差 ε に対して反復回数が O(N^3/ε) のスケーリングを示す。これは、既知の最良の理論的境界と一致する。
• 実験的にも効率的であり、Oliker-Prussner のような座標ごとの手法よりも実装で優れている一方で、収束保証を維持する。
• 重み付き Poincaré-Wirtinger 不等式により、収束に必要なソース支持の定量的連結性が保証される。
• 減衰付きニュートンステップにより発散を防ぎ、各反復で十分な減少が確保され、頑健な性能が実現される。