[論文レビュー] Scaling Algorithms for Unbalanced Transport Problems

Lénaïc Chizat, Gabriel Peyré+2 more|arXiv (Cornell University)|Jul 20, 2016

3D Shape Modeling and Analysis参考文献 54被引用数 80

ひとこと要約

本稿では、不均衡最適輸送問題に対するスケーラブルでエントロピー正則化に基づくアルゴリズムを導入し、質量の生成・消失を伴う任意の正測度に対して拡張されたSinkhornアルゴリズムを提案する。本手法により、不均衡輸送、バーチャルバリアンツ、勾配フローの高速かつ並列化可能な計算が可能となり、形状変形、カラー移行、成長モデリングへの応用が可能である。

ABSTRACT

This article introduces a new class of fast algorithms to approximate variational problems involving unbalanced optimal transport. While classical optimal transport considers only normalized probability distributions, it is important for many applications to be able to compute some sort of relaxed transportation between arbitrary positive measures. A generic class of such "unbalanced" optimal transport problems has been recently proposed by several authors. In this paper, we show how to extend the, now classical, entropic regularization scheme to these unbalanced problems. This gives rise to fast, highly parallelizable algorithms that operate by performing only diagonal scaling (i.e. pointwise multiplications) of the transportation couplings. They are generalizations of the celebrated Sinkhorn algorithm. We show how these methods can be used to solve unbalanced transport, unbalanced gradient flows, and to compute unbalanced barycenters. We showcase applications to 2-D shape modification, color transfer, and growth models.

研究の動機と目的

• 古典的最適輸送が正規化された確率測度を必要とするという制限を克服し、質量変動を伴う任意の正測度に対する計算を可能にする。
• 従来の線形計画法の計算不能性を克服し、スケーラブルで並列化可能な効率的な数値的手法を不均衡最適輸送問題に開発する。
• エントロピー正則化とSinkhornアルゴリズムの枠組みを不均衡設定に拡張し、実用的な不均衡輸送、バーチャルバリアンツ、勾配フローの計算を可能にする。
• 画像処理、コンピューターグラフィックス、機械学習における柔軟な質量処理を要する多様な応用を統合的に扱う計算フレームワークを提供する。

提案手法

• Bregman散度（特にKullback-Leibler散度）を用いて不均衡最適輸送問題にエントロピー正則化を適用し、凸性と数値的安定性を保証する。
• 輸送結合の対角スケーリング（点ごとの乗算）に基づく反復的アルゴリズムを導出し、Sinkhornアルゴリズムを不均衡設定に一般化する。
• 正則化項が厳密に強凸である凸最適化問題として不均衡輸送問題を定式化し、各反復で閉形式での更新が可能となる。
• Bregman射影と劣微分計算を用いて、輸送計画およびバーチャルバリアンツの最適性条件と更新則を導出する。
• 正則化された問題の構造を活用してスケーラブルなソルバーを実装し、効率的なGPU加速および分散計算を可能にする。
• 反復的スケーリング手順をこれらの高レベル問題に適応することで、不均衡Wassersteinバリアンツおよび不均衡勾配フローの計算を拡張する。

実験結果

リサーチクエスチョン

• RQ1 任意の正測度に質量の生成・消失を伴う不均衡最適輸送問題を扱うために、エントロピー正則化をどのように一般化できるか。
• RQ2 エントロピー正則化から導かれる反復的アルゴリズムの構造は何か。また、計算効率と並列性をどのように維持できるか。
• RQ3 拡張されたSinkhorn風アルゴリズムは、実用的な応用において不均衡バリアンツおよび不均衡勾配フローの計算に効果的に適用可能か。
• RQ4 正則化された不均衡輸送問題の理論的性質、特に正則化パラメータを0に近づける際の収束性と一貫性は何か。
• RQ5 大規模な不均衡輸送問題において、提案手法は古典的線形計画法や組合せ的手法と比較して性能と精度で優れているか。

主な発見

• 提案されたエントロピー正則化フレームワークにより、Sinkhornアルゴリズムが不均衡最適輸送に成功裏に拡張され、任意の正測度に対する高速かつスケーラブルな計算が可能となった。
• 反復的アルゴリズムは対角スケーリング操作（点ごとの乗算）にのみ依存しており、並列処理に非常に適しており、GPU加速にも適している。
• 収束速度が古典的エントロピーOTと同等であることを確認し、不均衡輸送結合、バーチャルバリアンツ、勾配フローの高精度な近似が達成された。
• 2次元形状変形、カラー移行、成長モデリングへの応用により、実世界のデータに対する本手法の実用的有用性と頑健性が実証された。
• 理論的分析により、正則化パラメータが0に近づくにつれて、正則化された問題が古典的不均衡輸送解に収束することが確認された。
• KL、TV、ロバストガンマなど多様な散度をサポートするため、質量変動やノイズの種別に応じた柔軟なモデリングが可能となった。