[論文レビュー] Domain Adaptive Neural Networks for Object Recognition

Muhammad Ghifary, W. Bastiaan Kleijn+1 more|arXiv (Cornell University)|Sep 21, 2014

Domain Adaptation and Few-Shot Learning参考文献 17被引用数 96

ひとこと要約

この論文は、深層ニューラルネットワークの潜在空間におけるソースドメインとターゲットドメインの分布不一致を低減するために、最大平均差分（MMD）を正則化損失として用いるドメイン適応型ニューラルネットワーク（DaNN）を提案する。この手法は、生の画像ピクセルを用いてオフィスデータセットで最先端の性能を達成し、SVMベースのベースラインや最近のモデル（GFK や TSC）を上回る。特に、ノイズ除去オートエンコーダー（DAE）の事前学習を組み合わせた場合に顕著な向上が見られる。

ABSTRACT

We propose a simple neural network model to deal with the domain adaptation problem in object recognition. Our model incorporates the Maximum Mean Discrepancy (MMD) measure as a regularization in the supervised learning to reduce the distribution mismatch between the source and target domains in the latent space. From experiments, we demonstrate that the MMD regularization is an effective tool to provide good domain adaptation models on both SURF features and raw image pixels of a particular image data set. We also show that our proposed model, preceded by the denoising auto-encoder pretraining, achieves better performance than recent benchmark models on the same data sets. This work represents the first study of MMD measure in the context of neural networks.

研究の動機と目的

• トレーニングデータとテストデータが異なる分布から来ることによるドメインシフトを解決すること。
• SURF などの手作業特徴量に依存せずに、ソースドメインとターゲットドメイン間の分布不一致を低減すること。
• 最大平均差分（MMD）が深層ニューラルネットワークにおけるドメイン適応の正則化として有効であるかを検証すること。
• ノイズ除去オートエンコーダー（DAE）の事前学習がドメイン適応性能に与える影響を評価すること。
• 生の画像ピクセルを入力として用いるシンプルで効果的なニューラルネットワークフレームワークを確立すること。

提案手法

• ソースドメインとターゲットドメインの隠れ層表現を統合するために、MMD 正則化を備えたニューラルネットワークモデルを導入する。
• 潜在空間における2つのドメイン間の分布差を非パラメトリックな測度として MMD を用いる。
• 普遍な再生核ヒルバート空間（RKHS）における単位球に基づくカーネル化された MMD 評価器を採用する。
• バックプロパゲーション中に MMD 正則化を適用し、ソース特徴量とターゲット特徴量の間の分布ギャップを最小化する。
• MMD 正則化によるエンドツーエンドの微調整の前に、ノイズ除去オートエンコーダー（DAE）を用いてネットワークを事前学習する。
• 手作業特徴量（例：SURF）に依存せず、生の画像ピクセルを入力として使用する。

実験結果

リサーチクエスチョン

• RQ1 MMD 正則化は、オブジェクト認識のための深層ニューラルネットワークにおけるドメインシフトを効果的に低減できるか？
• RQ2 生の画像ピクセルを入力として用いる場合、提案された DaNN モデルはオフィスデータセットにおいて既存のドメイン適応手法を上回るか？
• RQ3 DAE 事前学習はドメイン適応型ニューラルネットワークの性能にどのように影響するか？
• RQ4 MMD 正則化は、教師ありまたは半教師ありのドメイン適応設定において、どちらがより効果的か？
• RQ5 手作業特徴抽出器なしで、MMD 正則化を備えた深層ニューラルネットワークは、一般化性能を十分に発揮できるか？

主な発見

• MMD 正則化を備えた DaNN モデルは、オフィスデータセットで最先端の性能を達成し、SVM ベースのベースラインや GFK や TSC といった最近のモデルを、すべてのドメイン適応ペアにおいて上回った。
• 生の画像ピクセルを入力として用いた場合、DAE 事前学習を施した DaNN は dslr ドメインで平均正解率 77.9% を達成し、同じドメインにおける最高のインハウス性能（74.2%）を上回った。
• MMD 正則化は教師なし設定において顕著な性能向上をもたらし、特に W→D（ウェブカメラから DSLR）ペアで最大の向上が観察された。
• 半教師あり設定では、DaNN と標準的なニューラルネットワークの性能差が縮小したため、ラベル付きターゲットデータが MMD 正則化の相対的利点を減少させていることが示唆された。
• DAE 事前学習は、すべてのドメインペアにおいて一貫して性能向上をもたらし、特に MMD 正則化と組み合わせた場合に顕著であった。
• MMD 正則化が手作業特徴量に依存せずに、生のピクセル上で強力な結果を達成できることを示した。