[論文レビュー] Continuous-Flow Graph Transportation Distances

Justin Solomon, Raif M. Rustamov+2 more|arXiv (Cornell University)|Mar 22, 2016

Data Management and Algorithms参考文献 33被引用数 17

ひとこと要約

本稿では、グラフ頂点上のリーマン多様体における測地線として確率分布をモデル化することにより、グラフ上でのWassersteinに類似した距離の効率的かつスケーラブルな計算を可能にする、新しい連続的フロー型グラフ輸送距離を提案する。従来の最適輸送とは異なり、時間離散化された流体流れの定式化を用いることで、ノード数に比例して二次的になるスケーリングを回避し、エッジ数に線形的にスケーリングする。同時に、2-Wasserstein距離の主要な幾何的性質（変位補間および三角不等式）を保持する。

ABSTRACT

Optimal transportation distances are valuable for comparing and analyzing probability distributions, but larger-scale computational techniques for the theoretically favorable quadratic case are limited to smooth domains or regularized approximations. Motivated by fluid flow-based transportation on $\mathbb{R}^n$, however, this paper introduces an alternative definition of optimal transportation between distributions over graph vertices. This new distance still satisfies the triangle inequality but has better scaling and a connection to continuous theories of transportation. It is constructed by adapting a Riemannian structure over probability distributions to the graph case, providing transportation distances as shortest-paths in probability space. After defining and analyzing theoretical properties of our new distance, we provide a time discretization as well as experiments verifying its effectiveness.

研究の動機と目的

• グラフ上での2-Wasserstein距離の計算の非実行性（ノード数に比例して二次的になる）を解消すること。
• 二次的時間の線形計画法を必要とせず、2-Wasserstein距離の幾何的および安定性特性を保持するグラフ上の輸送距離を開発すること。
• 流体流れにインspiredされた変分定式化を用いて、連続的最適輸送理論と離散的グラフベースのデータ構造との間のギャップを埋めること。
• 形状検索、クラスタリング、グラフ構造データ上の学習などの応用分野におけるスケーラブルで微分可能かつ幾何学的に意味のある距離計算を可能にすること。

提案手法

• グラフ頂点上の確率分布の空間にリーマン構造を定式化し、接空間および内積を定義し、連続的最適輸送に類似した形で定義する。
• 時間依存の密度および速度場をパラメータとする、確率空間内での最短経路問題としての輸送距離の変分定式化を導出する。
• 明示的な時間ステッピングを用いて連続時間の流体流れモデルを離散化し、エッジフロー上の凸最適化問題に帰着させる。
• 発散作用素の離散的アナログとしてグラフラプラシアンを用い、連続の式をグラフ構造に埋め込む。
• 得られた最適化問題を一般的な凸最適化ソルバで解き、計算コストをエッジ数に線形に保つ。
• 変位補間を用いて質量移動経路を可視化し、連続的Wasserstein理論からの幾何的直観を保持する。

実験結果

リサーチクエスチョン

• RQ1 グラフ上での最適輸送の連続的フロー定式化は、グラフサイズに線形にスケーリングしつつ、2-Wasserstein距離の幾何的性質を満たすことができるか？
• RQ2 グラフ上の離散的確率分布の上にリーマン構造をどのように定義すれば、測地線距離をサポートできるか？
• RQ3 連続的最適輸送からの流体流れアナロジーをグラフに適応させることで、スケーラブルかつ安定な輸送距離を得られるか？
• RQ4 提案手法は、形状検索および分布比較タスクにおいて、標準的な1-Wasserstein距離およびL1ベースのbag-of-words距離を上回る性能を示すか？

主な発見

• 提案された連続的フロー型グラフ輸送距離 $\overline{\mathcal{W}}$ は、三角不等式を満たし、変位補間をサポートしており、2-Wasserstein距離の主要な幾何的性質を保持している。
• 本手法はエッジ数に線形にスケーリングし、大規模なスパースグラフ上でも効率的な計算が可能である。これは、ノード数に比例して二次的になる標準的な2-Wasserstein距離とは対照的である。
• 109体の有機的形状を用いた3次元形状検索タスクにおいて、$\overline{\mathcal{W}}$ は、初期の識別可能なマッチングセットを超えて、$L_1$ ベースのbag-of-words距離よりも一貫して優れたクラス内検索性能を達成した。
• 本手法は、完全な線形計画法による計算負荷を回避しつつ、$\mathcal{W}_1$ よりも安定性および幾何的構造の面で優れている。
• 変分定式化により、滑らかで連続的な質量移動経路が得られ、分布変換の可視化および解釈が可能になった。
• 本手法は、バーチャルセンター計算を介して、クラスタリング、半教師あり学習、行列因子分解などの他の応用分野へ一般化可能である。