[論文レビュー] Hierarchical Adaptive Structural SVM for Domain Adaptation

Jiaolong Xu, Sebastian Ramos+2 more|arXiv (Cornell University)|Aug 22, 2014

Domain Adaptation and Few-Shot Learning参考文献 32被引用数 10

ひとこと要約

本稿では、複数のターゲットドメインまたはサブドメインの階層的構造を活用して分類精度を向上させる、新しいドメイン適応手法である階層的適応構造SVM（HA-SSVM）を提案する。適応的構造SVMを用いて、ツリー構造のターゲットドメイン階層全体を通じてソースドメイン分類器を同時に適応させることで、歩行者検出および多クラス物体認識の分野で、サブドメインが自動的に発見されても、単層適応戦略を上回る性能を達成する。

ABSTRACT

A key topic in classification is the accuracy loss produced when the data distribution in the training (source) domain differs from that in the testing (target) domain. This is being recognized as a very relevant problem for many computer vision tasks such as image classification, object detection, and object category recognition. In this paper, we present a novel domain adaptation method that leverages multiple target domains (or sub-domains) in a hierarchical adaptation tree. The core idea is to exploit the commonalities and differences of the jointly considered target domains. Given the relevance of structural SVM (SSVM) classifiers, we apply our idea to the adaptive SSVM (A-SSVM), which only requires the target domain samples together with the existing source-domain classifier for performing the desired adaptation. Altogether, we term our proposal as hierarchical A-SSVM (HA-SSVM). As proof of concept we use HA-SSVM for pedestrian detection and object category recognition. In the former we apply HA-SSVM to the deformable part-based model (DPM) while in the latter HA-SSVM is applied to multi-category classifiers. In both cases, we show how HA-SSVM is effective in increasing the detection/recognition accuracy with respect to adaptation strategies that ignore the structure of the target data. Since, the sub-domains of the target data are not always known a priori, we shown how HA-SSVM can incorporate sub-domain structure discovery for object category recognition.

研究の動機と目的

• トレーニング（ソース）データとテスト（ターゲット）データの分布が異なる、コンピュータビジョン分野におけるドメインシフトの課題に対処する。
• 各ターゲットドメインを個別に扱うか、すべてのターゲットを1つに統合する単層ドメイン適応手法の限界を克服する。
• 関連するターゲットサブドメイン間の共通性と固有の差異を、階層的構造を介して活用する手法を開発する。
• ソースドメインデータへのアクセスを一切不要とせず、ラベル付きターゲットサンプルと事前学習済みのソース分類器のみに依存してドメイン適応を実現する。
• 既知の構造および自動発見されたターゲットドメイン構造の両方で有効性を示す。特に、潜在的ドメイン発見を伴う物体認識タスクにおいて有効である。

提案手法

• ターゲットドメインを類似度に基づいて親子関係を持つツリー構造に整理する階層的適応ツリーを構築する。
• すべてのノード（ルートからリーフまで）にわたって、適応的構造SVM（A-SSVM）を適用し、モデルパラメータを同時に最適化する。
• 1つの目的関数を用い、段階的な適応を可能にする：中間ノードはサブドメイン間の共有特徴を捉え、リーフノードはドメイン固有の変動をモデル化する。
• ソースデータへの再アクセスを回避し、ラベル付きターゲットデータと事前学習済みソース分類器のみで適応を実現する。
• ドメイン構造が事前に不明な場合に、クラスタリング（例：Reshape、LatDD）を用いてサブドメインを発見する。各カテゴリの各サブドメインで3例のラベル付きサンプルのみを必要とする。
• すべての階層レベルにわたって多クラス分類器を同時に学習し、不正確なドメイン割り当てからの誤差補正を可能にする。

実験結果

リサーチクエスチョン

• RQ1 複数の相関関係のあるターゲットドメインを伴う状況において、階層的ドメイン適応は単層適応を上回る性能を発揮するか？
• RQ2 サブドメイン間の共有構造を活用することで、すべてのターゲットデータを統合する戦略と比較して、検出および認識精度はどのように向上するか？
• RQ3 ターゲットサブドメインが事前に分かっていない場合でも、HA-SSVMは高い性能を維持できるか？
• RQ4 階層全体にわたる共同最適化は、不正確なサブドメイン発見に起因する誤差を緩和できるか？
• RQ5 歩行者検出および多クラス物体認識タスクにおいて、HA-SSVMは最先端のドメイン適応手法と比較して優れているか？

主な発見

• HA-SSVMは、3層の階層を用いてPASCAL VOC 2007テストセットで歩行者検出のmAPを59.1%に達成し、単層の統合戦略を上回る性能を示した。
• 多クラス物体認識において、発見されたサブドメイン（Reshape-Pr）を用いたHA-SSVMは平均49.1%の精度を達成し、事前にドメイン構造が与えられた場合の49.0%と同等の性能を示した。
• 限られた各サブドメインのラベル付きデータでも、単層適応（ドメインごとに独立して適応）および統合戦略を上回る性能を発揮した。
• 真値に基づくドメイン発見を用いたReshape-PrはLatDD-Prよりも高い精度を達成したが、HA-SSVMの共同学習により、ドメイン誤分類の誤差が部分的に補われた。
• 3層のHA-SSVM構成は、最良の2層構成と同等の結果を達成し、階層的アプローチのスケーラビリティおよびロバスト性を示した。
• サブドメインがReshape-Prで発見された場合、HA-SSVMは49.1%の高い精度を維持した。これは、ドメイン構造が未知の現実世界の状況でも、本手法が有効であることを示している。