[論文レビュー] Multi-Marginal Optimal Transport Defines a Generalized Metric.

Liang Mi, José Bento|arXiv (Cornell University)|Jan 29, 2020

Optimization and Search Problems参考文献 3被引用数 5

ひとこと要約

本稿は、多マージン最適輸送（MMOT）が一般化された距離関数を定義することを証明し、先行研究の課題を克服するための重要な中間的結果を用いて、その理論的基盤を確立している。MMOTが改善不能な一般化された三角不等式を満たすことが示され、これによりメトリックに基づく機械学習フレームワークへの応用が可能になる。

ABSTRACT

Optimal transport (OT) is rapidly finding its way into machine learning. Favoring its use are its metric properties. Indeed, many problems admit solution guarantees only for objects embedded in a metric space, and the use of non-metrics can make their solving more difficult. Multi-marginal OT (MMOT) generalizes OT to simultaneously transporting multiple distributions. It captures important relations that are missed if the transport is pairwise. Research on MMOT, however, has been focused on its existence, the uniqueness and structure of transports, applications, practical algorithms, and the choice of cost functions. There is a lack of discussion on the metric properties of MMOT, which critically limits its theoretical and practical use. Here, we prove that MMOT defines a generalized metric. We first explain the difficulty of proving this via two negative results. Afterwards, we prove key intermediate steps and then prove MMOT's metric properties. Finally, we show that the generalized triangle inequality that MMOT satisfies cannot be improved.

研究の動機と目的

• 多マージン最適輸送（MMOT）におけるメトリック性質に関する理論的理解の不足に取り組むこと。
• 構造的複雑性のため、これを証明することが困難であるにもかかわらず、MMOTが一般化されたメトリック公理を満たすことを確立すること。
• MMOTが満たす一般化された三角不等式がタイトであり、改善できないことを証明すること。
• MMOTをメトリック空間の保証を要する機械学習応用に使用する理論的根拠を提供すること。

提案手法

• MMOTにおけるメトリック性質の直接的証明を妨げる2つの否定的結果を特定・分析すること。
• これらの障害を克服し、メトリック公理を証明する基盤を構築するための重要な中間的結果を確立すること。
• MMOTが一般化されたメトリックの公理（非負性、同一視の同一性、対称性）を満たすことを証明すること。
• MMOTが標準的な三角不等式を多マージン設定に拡張した一般化された三角不等式を満たすことを示すこと。
• 反例を用いて、一般化された三角不等式を強化または改善できないことを示すこと。
• 多マージン結合とコスト関数の構造的性質を活用して、一般化されたメトリック枠組みを形式化すること。

実験結果

リサーチクエスチョン

• RQ1 多マージン最適輸送は、一般化されたメトリックの公理を満たすと示すことができるか？
• RQ2 MMOTにおけるメトリック性質の直接的証明を妨げる根本的な障壁は何か？
• RQ3 MMOTは一般化された三角不等式を満たすか？もしそうなら、それを改善できるか？
• RQ4 MMOTのメトリック性質は、標準的最適輸送のそれとどのように異なるか？
• RQ5 これらのメトリック性質は、機械学習におけるMMOTの理論的応用にどのような意味を持つのか？

主な発見

• MMOTは、非負性、同一視の同一性、対称性を含む一般化されたメトリックの公理を満たす。
• 反例により、MMOTが満たす一般化された三角不等式がタイトであり、改善できないことが示された。
• 2つの否定的結果が、MMOTにおけるメトリック性質の証明における構造的課題を浮き彫りにし、これらは中間的理論的結果によって克服された。
• 証明により、MMOTが有効な一般化されたメトリックを提供することが確認され、メトリック空間の性質を要する理論的機械学習フレームワークへの応用が可能になった。
• MMOTの一般化されたメトリック構造により、複数分布輸送問題におけるより広範な理論的保証が可能になった。