[論文レビュー] Optimal Transport on the Manifold of SPD Matrices for Domain Adaptation

Or Yair, Felix Dietrich+2 more|arXiv (Cornell University)|Jun 3, 2019

Advanced Neuroimaging Techniques and Applications参考文献 17被引用数 8

ひとこと要約

本稿では、体積を保存する写像まで最適な解が得られるように保証する極分解定理を活用することで、ドメイン適応のための対称正定値（SPD）行列の多様体上での最適輸送（OT）フレームワークを提案する。重み付きリーマン平均と正則化されたOTアルゴリズムを活用することで、2つのBCIデータセットで最先端の性能を達成した。

ABSTRACT

The problem of domain adaptation has become central in many applications from a broad range of fields. Recently, it was proposed to use Optimal Transport (OT) to solve it. In this paper, we model the difference between the two domains by a diffeomorphism and use the polar factorization theorem to claim that OT is indeed optimal for domain adaptation in a well-defined sense, up to a volume preserving map. We then focus on the manifold of Symmetric and Positive-Definite (SPD) matrices, whose structure provided a useful context in recent applications. We demonstrate the polar factorization theorem on this manifold. Due to the uniqueness of the weighted Riemannian mean, and by exploiting existing regularized OT algorithms, we formulate a simple algorithm that maps the source domain to the target domain. We test our algorithm on two Brain-Computer Interface (BCI) data sets and observe state of the art performance.

研究の動機と目的

• 機械学習の応用におけるドメインシフトを、ドメインの差を微分同相写像としてモデル化することで解決すること。
• 体積を保存する写像まで最適な解が得られるように保証する最適輸送が、ドメイン適応において最適であることを確立すること。
• SPD多様体の幾何的構造を活用して、強固で効率的なドメイン適応を実現すること。
• 正則化されたOTと重み付きリーマン平均を用いた実用的なアルゴリズムを開発し、ソースドメインからターゲットドメインへのマッピングを実現すること。

提案手法

• ドメインの差を微分同相写像としてモデル化し、極分解定理を適用することで、この仮定の下でOTが最適であることを正当化する。
• 対称正定値（SPD）行列の多様体構造を、ドメイン表現の幾何的フレームワークとして活用する。
• SPD多様体上での一意な重み付きリーマン平均を用いることで、安定的かつ一貫性のあるドメイン整合性を確保する。
• 正則化された最適輸送アルゴリズムを用いて、ソースドメインからターゲットドメインへのマッピングを定式化する。
• リーマン幾何学とOTを統合することで、ドメイン適応中に内在的な幾何的性質を保存する。
• OTをSPD行列上で用いることで、ソースドメインデータをターゲットドメインにマッピングする、シンプルだが効果的なアルゴリズムを設計する。

実験結果

リサーチクエスチョン

• RQ1 微分同相写像によるドメインシフトモデルの下で、最適輸送がドメイン適応に対して厳密に最適であると正当化できるか？
• RQ2 極分解定理は、ドメイン適応の文脈において、SPD行列の多様体にどのように適用されるか？
• RQ3 重み付きリーマン平均は、SPD多様体上での安定的かつ一意なドメイン整合性を確保するために果たす役割は何か？
• RQ4 正則化されたOTをSPD多様体上で用いることで、実世界のデータにおいて既存のドメイン適応手法を上回ることができるか？
• RQ5 SPD行列の幾何的構造は、ドメイン適応の強度と性能をどのように向上させるか？

主な発見

• 提案手法は、2つのブレインコンピュータインターフェース（BCI）データセットで最先端の性能を達成し、ドメイン間での優れた一般化性能を示した。
• SPD多様体上への極分解定理の適用により、OTが体積を保存する変換まで最適なマッピングを提供することが確認された。
• SPD行列上での重み付きリーマン平均の一意性により、輸送プロセス中における安定的かつ一貫性のあるドメイン整合性が保証された。
• 正則化されたOTとリーマン幾何学の統合により、効率的かつ幾何学的に意味のあるドメイン適応が可能になった。
• アルゴリズムは実装が簡単であり、内在的な幾何的構造を保存したまま、ソースドメインデータをターゲットドメインに効果的にマッピングできた。