[論文レビュー] Do Neural Optimal Transport Solvers Work? A Continuous Wasserstein-2 Benchmark

Alexander Korotin, Lingxiao Li+4 more|arXiv (Cornell University)|Jun 3, 2021

Advanced Neuroimaging Techniques and Applications参考文献 38被引用数 10

ひとこと要約

本稿では、入力凸ニューラルネットワーク（ICNNs）を用いて連続的な Wasserstein-2 ベンチマークを導入し、解析的に既知の最適輸送マップを有する連続的確率測度のペアを生成することで、ニューラル最適輸送ソルバーの厳密な評価を可能にする。画像生成における強力な下流性能にもかかわらず、多くのソルバーは真の輸送マップを正確に回復できず、OTの正確性と生成品質の間には重要な乖離が生じていることが明らかになった。

ABSTRACT

Despite the recent popularity of neural network-based solvers for optimal transport (OT), there is no standard quantitative way to evaluate their performance. In this paper, we address this issue for quadratic-cost transport -- specifically, computation of the Wasserstein-2 distance, a commonly-used formulation of optimal transport in machine learning. To overcome the challenge of computing ground truth transport maps between continuous measures needed to assess these solvers, we use input-convex neural networks (ICNN) to construct pairs of measures whose ground truth OT maps can be obtained analytically. This strategy yields pairs of continuous benchmark measures in high-dimensional spaces such as spaces of images. We thoroughly evaluate existing optimal transport solvers using these benchmark measures. Even though these solvers perform well in downstream tasks, many do not faithfully recover optimal transport maps. To investigate the cause of this discrepancy, we further test the solvers in a setting of image generation. Our study reveals crucial limitations of existing solvers and shows that increased OT accuracy does not necessarily correlate to better results downstream.

研究の動機と目的

• 連続的かつ高次元な設定におけるニューラル最適輸送ソルバーの標準化された定量的評価の欠如に対処すること。
• 2次コストOT（Wasserstein-2）において、解析的に既知の最適輸送マップを有する連続的確率測度のペアを構築すること。
• 高次元空間、特に画像分布を含む状況において、既存のOTソルバーが真の輸送マップをどれほど正確に回復できるかを評価すること。
• OTソルバーの正確性と生成モデルにおける下流性能との関係を調査すること。
• GAN や他の応用分野において強力な経験的性能を示すにもかかわらず、現在のソルバーの限界を明らかにすること。

提案手法

• 入力凸ニューラルネットワーク（ICNNs）を用いて、その勾配が与えられた測度の最適輸送マップを生成するように輸送マップをパrametrizeすること。
• ICNNの勾配を通じてベース測度を押し出し、連続的確率測度を構築することで、最適輸送マップの解析的取り扱いを保証すること。
• ICNNの勾配が対応する2次コストOT問題の最適輸送マップを生成することを活用し、正確な真値計算を可能にすること。
• 64×64 CelebA顔画像を含む高次元空間におけるベンチマークデータセットを、この構成を用いて生成すること。
• GANベースの画像生成設定において、ソルバーの輸送マップ回復タスクと下流性能を比較するための評価を実施すること。
• 非対称なソルバー（MM や MM:R）を考慮した、三重ループの確率的ミニマックスミニマックス最適化フレームワークを用いて GAN を訓練すること。

実験結果

リサーチクエスチョン

• RQ1 ニューラル最適輸送ソルバーは、連続的かつ高次元な設定において真の最適輸送マップを正確に回復できるか？
• RQ2 Wasserstein-2 距離の推定精度が向上すれば、生成モデル性能もそれに応じて向上するのか？
• RQ3 輸送マップ回復が悪いにもかかわらず、GAN において強い生成結果を達成するソルバーの理由は何か？
• RQ4 勾配のずれとサポートの不一致は、画像生成におけるOTソルバーの性能にどのように影響するか？
• RQ5 提案されたICNNベースのベンチマークは、他のコスト関数や測度タイプへ一般化可能か？

主な発見

• 多くの人気のあるニューラルOTソルバーは、低次元設定ですら真の最適輸送マップを回復する際に顕著な誤差を示し、単純なベースラインと同程度の性能にとどまる。
• ICNNベースのパrametrizationは最も正確なソルバーをもたらし、ICNNベースのW2ソルバーは真値輸送マップへの忠実度が最も高かった。
• 正確なマップ回復にもかかわらず、W2ソルバーは最先端の生成性能を達成できず、OTの正確性と下流品質の間に乖離が存在することが示された。
• 最大最小定式化を用いるMMおよびMM:Rソルバーは、勾配のずれと不安定な学習に起因し、画像がぼやける傾向にあったが、MM:Rは逆方向アーキテクチャによりこれを改善した。
• QCソルバーにおけるフィットされた輸送マップは、画像品質を著しく向上させ、W2ソルバーと同等の結果をもたらした。これは、マップの忠実度がソルバーの正確性に依存しない形で生成品質を向上させられることを示唆している。
• ベンチマークにより、OTの正確性が高まれば必ずしも生成性能が向上するわけではないことが明らかになった。これは、GANにおけるOTの役割に関する仮定に疑問を呈するものである。