[論文レビュー] Cross-Domain Visual Recognition via Domain Adaptive Dictionary Learning

Hongyu Xu, Jingjing Zheng+2 more|arXiv (Cornell University)|Apr 12, 2018

Domain Adaptation and Few-Shot Learning参考文献 43被引用数 10

ひとこと要約

本稿では、中間ドメイン経路を通じて共有およびドメイン固有の辞書を学習することにより、ドメインギャップを埋めるドメイン適応型辞書学習フレームワークを提案する。スパースコーディングと辞書更新を交互に繰り返すことで、3つのベンチマークデータセットにおいて最先端の性能を達成し、分布シフト下での物体認識および顔認識において、既存の最先端手法を上回る性能を発揮する。

ABSTRACT

In real-world visual recognition problems, the assumption that the training data (source domain) and test data (target domain) are sampled from the same distribution is often violated. This is known as the domain adaptation problem. In this work, we propose a novel domain-adaptive dictionary learning framework for cross-domain visual recognition. Our method generates a set of intermediate domains. These intermediate domains form a smooth path and bridge the gap between the source and target domains. Specifically, we not only learn a common dictionary to encode the domain-shared features, but also learn a set of domain-specific dictionaries to model the domain shift. The separation of the common and domain-specific dictionaries enables us to learn more compact and reconstructive dictionaries for domain adaptation. These dictionaries are learned by alternating between domain-adaptive sparse coding and dictionary updating steps. Meanwhile, our approach gradually recovers the feature representations of both source and target data along the domain path. By aligning all the recovered domain data, we derive the final domain-adaptive features for cross-domain visual recognition. Extensive experiments on three public datasets demonstrates that our approach outperforms most state-of-the-art methods.

研究の動機と目的

• トレーニング（ソース）データとテスト（ターゲット）データが異なる分布から来ることによるドメインシフトの課題に対処すること。
• MMDのようなカーネルベースの手法の限界を克服すること。これらの手法はスケーリングが悪く、グローバルな非線形性を捉えきれない。
• 構造的辞書学習を用いてドメイン共有およびドメイン固有の特徴をモデル化することで、特徴表現を向上させること。
• ソースからターゲットへの連続的な経路を形成する中間ドメインを生成することで、ドメイン間の滑らかな適応を可能にすること。
• ラベル付きターゲットデータを必要とせず、教師なしドメイン適応に焦点を当てた、頑健なクロスドメイン認識を達成すること。

提案手法

• 共有特徴のための共通辞書と、ドメインシフトのモデル化のためのドメイン固有辞書を学習する、新しいフレームワークを導入する。
• ソースドメインとターゲットドメインの間で滑らかな経路を形成する一連の中間ドメインを構築する。
• ドメイン適応型スパースコーディングと辞書更新ステップを交互に実行することで、特徴再構成とドメイン整合性を同時に最適化する。
• パラメータ η を含む正則化項を用いてドメイン経路の影響を制御し、特徴表現の安定的かつ滑らかな回復を保証する。
• 低ランク近似を用いて、ソース、中間、ターゲットを含むすべてのドメイン間での特徴の回復と整合化を実現する。
• 特徴移行行列の特異値分解（SVD）を活用して、辞書更新の閉形式解を導出し、計算効率を確保する。

実験結果

リサーチクエスチョン

• RQ1 構造的辞書学習アプローチは、共有およびドメイン固有の特徴を効果的にモデル化でき、クロスドメイン視覚認識を向上させることができるか？
• RQ2 ソースとターゲットドメインの間の経路上に中間ドメインを導入することで、直接的なドメイン適応よりも優れた特徴整合化と性能が得られるか？
• RQ3 共通およびドメイン固有の辞書の分離は、統合的または共有辞書学習と比較して、ドメインシフトの処理においてどのように優れているか？
• RQ4 ラベル付きターゲットデータを一切必要としない条件下で、提案手法が分布差をどの程度低減できるか？
• RQ5 実世界の視覚認識タスクにおいて、既存のMMDベースおよび部分空間ベースのドメイン適応手法を上回ることができるか？

主な発見

• 提案手法は、物体認識および顔認識タスクを含む、3つの公開ベンチマークデータセットにおいて、クロスドメイン視覚認識で最先端の性能を達成した。
• 広範な実験により、共通およびドメイン固有の辞書の分離が、よりコンactかつ再構成性の高い表現をもたらし、一般化性能の向上に寄与することが確認された。
• 中間ドメイン経路により、段階的な特徴回復と整合化が可能となり、直接的なドメインシフトモデル化に比べて優れた適応性能が得られた。
• カーネル手法の二次的スケーリングとローカル一般化の限界を避けることで、既存のMMDベースのアプローチを上回った。
• アブレーションスタディの結果、共通辞書とドメイン固有辞書の両方が性能に顕著な寄与をしていることが示され、二重辞書学習の設計選択の妥当性が裏付けられた。
• SVDを用いた閉形式解により、辞書学習における計算効率と数値的安定性が保証された。