[論文レビュー] Disjoint Label Space Transfer Learning with Common Factorised Space

Xiaobin Chang, Yongxin Yang+2 more|arXiv (Cornell University)|Dec 6, 2018

Domain Adaptation and Few-Shot Learning参考文献 40被引用数 7

ひとこと要約

本稿では、共有ラベルのないソースおよびターゲットドメインを対象とした、不連携ラベル空間転移学習（DLSTL）のための統一的転移学習フレームワーク、共通要因分解空間モデル（CFSM）を提案する。CFSMは、教師なし要因分解損失と新しいトップダウンのグラフラプラシアン正則化を用いて、低エントロピーの共有潜在要因空間を学習することで、教師なしおよび半教師あり設定でも効果的な知識転送を可能にする。本手法は、人物再識別および数字分類のベンチマークで、既存手法を上回る性能を発揮する。

ABSTRACT

In this paper, a unified approach is presented to transfer learning that addresses several source and target domain label-space and annotation assumptions with a single model. It is particularly effective in handling a challenging case, where source and target label-spaces are disjoint, and outperforms alternatives in both unsupervised and semi-supervised settings. The key ingredient is a common representation termed Common Factorised Space. It is shared between source and target domains, and trained with an unsupervised factorisation loss and a graph-based loss. With a wide range of experiments, we demonstrate the flexibility, relevance and efficacy of our method, both in the challenging cases with disjoint label spaces, and in the more conventional cases such as unsupervised domain adaptation, where the source and target domains share the same label-sets.

研究の動機と目的

• ソースとターゲットドメインに共有ラベルがなく、ターゲットの監督情報が限られているか完全に存在しないという挑戦的な教師なし不連携ラベル空間転移学習（DLSTL）問題に対処すること。
• 教師なしおよび半教師ありDLSTLの両方を効果的に処理できる統一モデルを構築すること。
• ラベル空間の不連携にもかかわらず、知識転送を可能にする共通で判別力のある潜在要因空間を発見すること。
• 共通の要因分解空間から低レベル特徴へと類似性構造を一貫して保つことで、リtrievalなどの下流タスクの特徴表現を向上させること。

提案手法

• ソースおよびターゲットドメイン間で共有される共通要因分解（CFS）層を導入し、共有潜在表現層として機能させる。
• CFSにおける低エントロピーでほぼバイナリなコードを促進する教師なし要因分解損失を適用し、判別力のある潜在要因の発見を促進する。
• 上位レベルのCFSで学習された類似性構造を下位レベルの特徴が保つように正則化する、新しいグラフラプラシアンに基づく損失を提案する。これにより、トップダウンの知識転送が可能になる。
• CFSのドメイン間整合性を図るために、ソースおよびターゲットデータの両方を統合して訓練し、再構成損失を正則化に用いる。
• ソースおよびターゲットドメインのための別個の特徴抽出器と共有CFS層を持つ二重ストリームニューラルネットワークアーキテクチャを採用する。
• モデルは、ソースデータに対する監督損失、教師なし要因分解損失、およびグラフベース正則化損失の組み合わせにより、エンドツーエンドで訓練される。

実験結果

リサーチクエスチョン

• RQ1 共通のモデルが、ラベル空間が不連携である教師なしおよび半教師ありDLSTLを効果的に処理できるか。
• RQ2 共有ラベルやターゲットの監督情報が存在しない状況でも、判別力のある潜在要因を発見し、ドメイン間で一致させることは可能か。
• RQ3 CFS層からより前の特徴へと類似性構造を強制することで、リtrievalタスクにおける特徴転送性能が向上するか。
• RQ4 提案された教師なし要因分解損失とグラフ正則化が、標準的な分布整合化やオートエンコーダーに基づくベースラインを上回るか。
• RQ5 CFSMフレームワークは、ラベル空間が整列している標準的な教師なしドメイン適応（UDA）設定にも、DLSTLを超えて一般化可能か。

主な発見

• CFSMは、教師なし人物再識別ベンチマークで最先端性能を達成し、Market-to-Duke設定で49.8% R1および28.3% mAPを達成した。
• アブレーションスタディにより、グラフベース損失が顕著に寄与していることが確認され、CFSM−Graph（グラフなし）ではR1が46.8%、mAPが27.6%にとどまった。
• 従来のボトムアップラプラシアン損失に置き換えた場合（CFSM+ClassicGraph）は、性能が悪化（R1 47.4%、mAP 26.1%）し、トップダウン正則化の有効性が裏付けられた。
• 可視化により、CFSMはターゲットドメインで低エントロピーでほぼバイナリな活性化を誘発しており、監督なしでも判別力のある潜在要因の発見に成功していることが確認された。
• モデルは、『赤い服』や『女性／質感のある／バッグ持参』といった、ターゲットにアノテーションが存在しないにもかかわらず、ドメイン間で意味的に一貫性のある共有潜在属性を学習した。
• 正則化をソースデータにのみ適用した場合（Source+Regs）でも性能がわずかに向上したため、正則化が適応とは独立して表現の転送可能性を向上させることを示唆している。