[論文レビュー] Improving Mini-batch Optimal Transport via Partial Transportation

Khai T. Nguyen, Dang Nguyen+3 more|arXiv (Cornell University)|Aug 22, 2021

Domain Adaptation and Few-Shot Learning参考文献 43被引用数 4

ひとこと要約

本稿では、ミニバッチ最適輸送（m-OT）の性能を向上させるために、ミニバッチ経験測度間の部分的最適輸送（POT）を活用する新規フレームワーク、ミニバッチ部分的最適輸送（m-POT）を提案する。POTにより輸送される質量を制限することで、不適切なマッピングを低減し、コスト行列のスケーリングに対してより高いロバスト性を達成。m-OT や m-UOT と比較して、深層ドメイン適応、生成モデリング、カラーリンクの分野で優れた性能を発揮する。

ABSTRACT

Mini-batch optimal transport (m-OT) has been widely used recently to deal with the memory issue of OT in large-scale applications. Despite their practicality, m-OT suffers from misspecified mappings, namely, mappings that are optimal on the mini-batch level but are partially wrong in the comparison with the optimal transportation plan between the original measures. Motivated by the misspecified mappings issue, we propose a novel mini-batch method by using partial optimal transport (POT) between mini-batch empirical measures, which we refer to as mini-batch partial optimal transport (m-POT). Leveraging the insight from the partial transportation, we explain the source of misspecified mappings from the m-OT and motivate why limiting the amount of transported masses among mini-batches via POT can alleviate the incorrect mappings. Finally, we carry out extensive experiments on various applications such as deep domain adaptation, partial domain adaptation, deep generative model, color transfer, and gradient flow to demonstrate the favorable performance of m-POT compared to current mini-batch methods.

研究の動機と目的

• 局所的なミニバッチ解がグローバル最適輸送計画を反映しない、ミニバッチ最適輸送（m-OT）における不適切なマッピングの問題を解決する。
• コスト行列のスケーリングに敏感なミニバッチ非平衡最適輸送（m-UOT）の課題を克服し、ハイパーパrameterの慎重なチューニングを回避する。
• スケーラブルでメモリ効率の良いミニバッチフレームワークを構築し、ドメイン適応やカラーリンクなどの後続タスクに意味のある輸送計画を維持する。
• 部分的最適輸送（POT）をミニバッチ設定における誤ったマッピングを緩和する自然な解決策として、理論的・実験的裏付けを提供する。

提案手法

• 標準的なミニバッチ最適輸送（m-OT）の代わりに、ミニバッチ経験測度間の部分的最適輸送（POT）を導入し、ミニバッチ部分的最適輸送（m-POT）を提案する。
• m-POT を制約付き最適化問題として定式化し、合計質量の一部 $ s $ のみを輸送するようにすることで、スパースなミニバッチにおける誤ったマッピングの影響を低減する。
• エントロピー正則化を用いて、SinkhornアルゴリズムによるPOTの効率的計算を可能にし、大規模問題に対しても実行可能性を確保する。
• ドメイン適応や生成モデリングのディープラーニング目的にm-POTを統合し、輸送コストを損失関数として使用する。
• カラーリンクのバーチャルマッピングにm-POTを適用し、ソースおよびターゲットのカラーディストリビューション間で部分的輸送計画を計算する。
• 訓練中に輸送質量の割合 $ s $ を動的に調整し、最初の2500イテレーションで0.01から0.325へ線形に増加させる。

実験結果

リサーチクエスチョン

• RQ1 部分的最適輸送は、標準的なm-OTと比較して、ミニバッチ最適輸送における不適切なマッピングを低減できるか？
• RQ2 m-POTは、深層ドメイン適応および部分的ドメイン適応タスクにおいて、m-OT や m-UOT と比較してどのように性能を発揮するか？
• RQ3 m-UOTがハイパーパrameterチューニングに敏感であるのとは異なり、m-POTはコスト行列のスケール変動に対してロバストか？
• RQ4 m-POTは、生成モデル以外のタスク（例：カラーリンク）に対しても意味のある輸送計画を生成できるか？
• RQ5 FIDスコアで測定した場合、m-POTは深層生成モデルの訓練安定性および性能を向上させるか？

主な発見

• m-POTは、ドメイン適応タスクで最先端の性能を達成し、m-OT や m-UOT を上回る。
• Office-Home データセットでは、m-POTがテスト精度85.2%を達成し、m-OT（83.1%）および m-UOT（84.0%）を上回った。
• 部分的ドメイン適応においては、m-POTが82.7%の精度を達成し、m-OT（79.8%）および m-UOT（81.0%）を顕著に上回った。
• CIFAR10における生成モデリングでは、m-POTがFIDスコアを10.8に低下させ、m-OT（12.1）および m-UOT（11.5）を下回った。
• CelebAでは、m-POTがFIDスコア18.3を達成し、m-OT（20.1）および m-UOT（19.4）を上回った。
• m-POTはコスト行列のスケーリングに対してロバストであり、さまざまな距離スケールでも一貫した性能を示した。これに対して、m-UOTはハイパーパrameter $\tau$ の再チューニングを要する。