[論文レビュー] Open Set Domain Adaptation by Backpropagation

Kuniaki Saito, Shohei Yamamoto+2 more|arXiv (Cornell University)|Apr 27, 2018

Domain Adaptation and Few-Shot Learning参考文献 32被引用数 22

ひとこと要約

本論文は、未知のソースサンプルを必要としない、オープンセットドメイン適応（OSDA）のための新規な敵対的学習手法を提案する。特徴生成器を訓練することで、既知のターゲットサンプルをソース特徴とアライメントさせるとともに、分類器の境界を介して未知のサンプルを拒否する。この手法により、既知のクラスと未知のクラスを分離する性能が顕著に向上し、ドメイン適応およびオープンセット認識の両タスクにおいて、既存手法を大きく上回る性能を達成する。

ABSTRACT

Numerous algorithms have been proposed for transferring knowledge from a label-rich domain (source) to a label-scarce domain (target). Almost all of them are proposed for a closed-set scenario, where the source and the target domain completely share the class of their samples. We call the shared class the \doublequote{known class.} However, in practice, when samples in target domain are not labeled, we cannot know whether the domains share the class. A target domain can contain samples of classes that are not shared by the source domain. We call such classes the \doublequote{unknown class} and algorithms that work well in the open set situation are very practical. However, most existing distribution matching methods for domain adaptation do not work well in this setting because unknown target samples should not be aligned with the source. In this paper, we propose a method for an open set domain adaptation scenario which utilizes adversarial training. A classifier is trained to make a boundary between the source and the target samples whereas a generator is trained to make target samples far from the boundary. Thus, we assign two options to the feature generator: aligning them with source known samples or rejecting them as unknown target samples. This approach allows extracting features that separate unknown target samples from known target samples. Our method was extensively evaluated in domain adaptation setting and outperformed other methods with a large margin in most settings.

研究の動機と目的

• 未知のソースサンプルが入手不可であるという現実的で実用的な状況において、オープンセットドメイン適応の課題に対処すること。
• ソースドメインからの既知の未知サンプルに依存せずに、未知のターゲットサンプルを検出できる手法を開発すること。
• 既知のターゲットサンプルをソースサンプルと同時にアライメントさせるとともに、未知のターゲットサンプルを拒否することで、ドメイン適応の性能を向上させること。
• ドメインシフトと限られたラベル付きデータが与えられる状況において、効果的なオープンセット認識を可能にすること。
• 本手法の有効性を、教師なしドメイン適応および半教師ありオープンセット認識の両設定において示すこと。

提案手法

• 本手法は、特徴生成器と分類器の2プレーヤーの敵対的フレームワークを採用する。分類器はK+1次元の出力を予測し、(K+1)番目のクラスは「未知」を表す。
• 分類器は、ターゲットサンプルに対して「未知」クラスに高い確率を割り当てることで、既知と未知の特徴の間の意思決定境界を形成する。
• 特徴生成器は、未知のターゲットサンプルに対して「未知」クラスの確率を最大化するように訓練され、これにより未知サンプルが既知クラスの境界から遠ざけられる。
• 生成器には2つの戦略的選択肢がある：既知のターゲットサンプルをソース特徴とアライメントする、または「未知」確率を高めて未知サンプルを拒否する。
• 敵対的学習を用いることで、明示的な未知ソースデータを必要とせずに、既知と未知のサンプルを分離する境界を暗黙的に学習する。
• 弱い教師信号を伴う分類器と特徴生成を組み合わせることで、オープンセット一般化のためのエンドツーエンド学習を可能にする。

実験結果

リサーチクエスチョン

• RQ1 未知のソースサンプルが一切入手不可な状況下でも、ドメイン適応手法が未知のターゲットサンプルを効果的に検出できるか？
• RQ2 敵対的学習を活用することで、オープンセットドメイン適応において、既知のサンプルのアライメントと未知のサンプルの拒否を同時に達成できるか？
• RQ3 ドメインシフトと未知クラスが存在する状況において、本手法が既存の分布マッチングおよびオープンセット認識手法を上回るか？
• RQ4 視覚的ドメイン適応タスクにおいて、生成器から得られた特徴が、未知ターゲットサンプルと既知サンプルを効果的に分離できるか？
• RQ5 既知サンプルとラベルなしサンプルしか入手できない状況下で、本手法は半教師ありオープンセット認識においてどの程度の性能を示すか？

主な発見

• USPSからMNISTへの適応タスクでは、本手法は既知クラスで92.3%の精度、未知クラス検出で97.6%を達成し、BP+OSVM（0.9%の未知精度）を大きく上回った。
• SVHNからMNISTへの適応では、平均82.4%の精度を記録し、未知クラス検出で85.9%を達成。OSVMおよびMMD+OSVMと比較して、多数の指標で優れた性能を示した。
• 半教師ありオープンセット認識においても、本手法は強力な一般化性能を示し、MNISTとSVHNで平均84.5%の精度、未知検出で81.7%の精度を達成した。
• OSVMと組み合わせた場合（Ours + OSVM）、半教師ありタスクで未知精度96.3%を達成し、未知拒否に適した効果的な特徴表現が得られた。
• 特徴可視化の結果、本手法は未知ターゲットサンプル（緑点）を既知サンプル（青点と赤点）から明確に分離していることが確認された。これに対してBPは未知を区別できなかった。
• 本手法は、すべてのベースラインを上回った。特に未知サンプルの拒否性能において顕著で、USPS-MNISTではBP+OSVMが僅か0.7%の未知精度に留まった。