[論文レビュー] Correlation Alignment by Riemannian Metric for Domain Adaptation

Pietro Morerio, Vittorio Murino|arXiv (Cornell University)|May 23, 2017

Domain Adaptation and Few-Shot Learning参考文献 31被引用数 15

ひとこと要約

この論文では、対称正定値（SPD）行列のリーマン多様体上での測地線距離を、Deep CORALにおけるユークリッド距離の代わりに用いる、エンドツーエンドのディープドメイン適応手法であるLog-D-Coralを提案する。対数ユークリッドリーマン計量を活用することで、ソースおよびターゲット特徴の共分散の整合性が向上し、分類精度が向上する。特に、OfficeベンチマークにおいてDeep CORALより平均2.8%の向上を達成した。

ABSTRACT

Domain adaptation techniques address the problem of reducing the sensitivity of machine learning methods to the so-called domain shift, namely the difference between source (training) and target (test) data distributions. In particular, unsupervised domain adaptation assumes no labels are available in the target domain. To this end, aligning second order statistics (covariances) of target and source domains have proven to be an effective approach ti fill the gap between the domains. However, covariance matrices do not form a subspace of the Euclidean space, but live in a Riemannian manifold with non-positive curvature, making the usual Euclidean metric suboptimal to measure distances. In this paper, we extend the idea of training a neural network with a constraint on the covariances of the hidden layer features, by rigorously accounting for the curved structure of the manifold of symmetric positive definite matrices. The resulting loss function exploits a theoretically sound geodesic distance on such manifold. Results show indeed the suboptimal nature of the Euclidean distance. This makes us able to perform better than previous approaches on the standard Office dataset, a benchmark for domain adaptation techniques.

研究の動機と目的

• ドメイン適応における共分散行列間の差異を測る際、ユークリッド距離の性能が不十分であるという問題を解決すること。
• 共分散行列が自然に存在するリーマン多様体（Sym++(n)）上に位置することを認識し、ユークリッド空間ではなく多様体に適合した計量を必要とすること。
• Deep CORALにおけるフォビオリウスノルムを、理論的に整合性のあるリーマン距離に置き換えることで、ディープドメイン適応を改善すること。
• より安定で意味のある共分散整合性損失を可能にするエンドツーエンドの学習を可能にすること。
• SPD行列の内在的幾何構造を考慮することで、より良い一般化性能と収束特性が得られることを示すこと。

提案手法

• Deep CORALにおけるフォビオリウスノルムに基づく共分散損失を、対称正定値（SPD）行列の多様体上での対数ユークリッドリーマン距離に置き換える。
• SPD行列の行列対数の間のユークリッド距離として定義される対数ユークリッド計量を用い、測地線距離を計算する。
• 新たな損失関数を定式化：$ \alpha \cdot \| \log \Sigma_s - \log \Sigma_t \|_F^2 $、ここで $ \Sigma_s $ および $ \Sigma_t $ はソースおよびターゲット特徴の共分散行列を表す。
• このリーマン損失をエンドツーエンドのディープニューラルネットワーク学習パイプラインに統合し、交差エントロピー分類損失と同時に最適化する。
• バッチ単位の共分散推定を、最後の全結合層の特徴から得て、Officeベンチマークデータセットにこの手法を適用する。
• 各ドメインシフトに対して、ハイパーパrameter $ \alpha $ と $ \lambda $ を別々にチューニングし、通常 $ \alpha $ は $ \lambda $ より1桁大きい値をとる。

実験結果

リサーチクエスチョン

• RQ1 共分散行列の整合性を測る際、ユークリッド距離の代わりにリーマン多様体上の測地線距離を用いることで、ドメイン適応の性能が向上するか？
• RQ2 トレーニング中に、リーマン損失と標準的なフォビオリウスノルム損失の安定性および収束特性はどのように比較されるか？
• RQ3 SPD多様体上の測地線距離は、ディープドメイン適応における標準的なCORAL損失よりも、一般化性能に優れているか？
• RQ4 大規模ドメイン適応において、対数ユークリッド計量は、より複雑なリーマン計量の計算的に実用的で効果的な代替手段となるか？
• RQ5 共分散行列の内在的幾何構造を考慮することで、ソース分布とターゲット分布間のドメインシフトはどの程度軽減されるか？

主な発見

• Log-D-Coralは、Officeベンチマークで平均61.4%の精度を達成し、Deep CORALの60.5%より平均2.8%の向上を示した。
• 6つのドメインシフトスプリットのうち3つで性能が向上し、異なるソース・ターゲット組み合わせにおいて一貫した向上が得られた。
• 対数ユークリッド損失（$ L_{\log} $）はトレーニング中に素早く安定化し、フォビオリウスに基づく $ L_{\text{CORAL}} $ より滑らかで、より予測可能な挙動を示した。
• $ L_{\text{CORAL}} $ 損失は不安定な振動を示し、収束時でさえも安定化しなかったため、重み更新に対する感受性が不十分であることが示された。
• SPD行列のリーマン多様体上での測地線距離は、ユークリッド計量よりも共分散差異をより意味的かつ安定的に測定できる。
• 実験結果から、共分散行列を $ \mathrm{Sym}^{++}(n) $ の要素として扱い、適切なリーマン幾何を適用することで、より良いドメイン整合性と分類性能が得られることを確認した。