[論文レビュー] Continuous Domain Adaptation with Variational Domain-Agnostic Feature Replay

Qicheng Lao, Xiang Jiang+2 more|arXiv (Cornell University)|Mar 9, 2020

Domain Adaptation and Few-Shot Learning参考文献 51被引用数 29

ひとこと要約

本論文は、非定常環境における継続的領域適応のための変分的ドメインに依存しない特徴リプレイフレームワークを提案する。本手法は、タスクドリフト（P(Y|X)の変化）とドメインドリフト（P(X)の変化）の両方を同時に取り扱う。入力を推論モジュールを介してドメインに依存しない特徴にフィルタリングし、変分的生成モジュールを用いて移譲可能な知識を生成し、それをソルバに適用することで、ストリーミングデータ上で強固な継続的学習を実現。一般化性能が向上し、深刻な忘却が軽減される。

ABSTRACT

Learning in non-stationary environments is one of the biggest challenges in machine learning. Non-stationarity can be caused by either task drift, i.e., the drift in the conditional distribution of labels given the input data, or the domain drift, i.e., the drift in the marginal distribution of the input data. This paper aims to tackle this challenge in the context of continuous domain adaptation, where the model is required to learn new tasks adapted to new domains in a non-stationary environment while maintaining previously learned knowledge. To deal with both drifts, we propose variational domain-agnostic feature replay, an approach that is composed of three components: an inference module that filters the input data into domain-agnostic representations, a generative module that facilitates knowledge transfer, and a solver module that applies the filtered and transferable knowledge to solve the queries. We address the two fundamental scenarios in continuous domain adaptation, demonstrating the effectiveness of our proposed approach for practical usage.

研究の動機と目的

• サポートとクエリのデータストリームにおいて、P(Y|X)の変化（タスクドリフト）とP(X)の変化（ドメインドリフト）が同時に発生する非定常環境における継続的学習の課題に対処すること。
• クラウドベースのAIシステムにおける知識の保持と移譲を可能にするために、学習済み知識をドメインに依存しない移譲可能な表現にフィルタリングすること。
• 生データや活性化値ではなく、高レベルの抽象的特徴をリプレイすることで、人間の知識抽象化に類似した形で、深刻な忘却を軽減すること。
• 連続的領域適応の2つの基本的シナリオにおける手法の有効性を検証すること：クエリストリームにおけるタスクドリフトを伴うものと、ドメインドリフトを伴うもの。
• 生成的特徴リプレイが、一般化性能を向上させるデータ拡張の手法としての可能性を検討すること。

提案手法

• 推論モジュールは、入力と特徴の間の相互情報量を最小化することで、ラベルの監視を用いてタスク関連の情報を保持しつつ、入力データをドメインに依存しない特徴に変換する。
• 生成モジュールは、ドメインに依存しない特徴の変分的事後分布を学習し、過去のドメインのリプレイ可能で移譲可能な知識の合成を可能にする。
• ソルバモジュールは、フィルタリングおよび生成されたドメインに依存しない特徴を用いて、到着したクエリデータのラベルを予測し、特徴とラベルの間の相互情報量を最大化する。
• フレームワークは、特徴の圧縮と予測性能のバランスを取るための変分的情報ボトルネック目的関数を採用しており、ボトルネックは潜在コードではなく復元された特徴に適用される。
• 知識リプレイはデータレベルではなく特徴レベルで実行されるため、選択的で抽象的なリプレイが可能となり、深刻な忘却を回避しながら一般化性能を維持できる。
• 本手法はクエリデータに追加の正則化を必要とせず、ドメイン遷移のパターンに関する仮定も不要であるため、広範な適用性を有する。

実験結果

リサーチクエスチョン

• RQ1 変分的ドメインに依存しない特徴リプレイ機構は、タスクドリフトとドメインドリフトの両方の下で、深刻な忘却を効果的に軽減できるか？
• RQ2 進化するドメインとタスクを伴うストリーミングデータに適用した場合、本手法の一般化性能はどの程度高いか？
• RQ3 生成的特徴リプレイは、連続的領域適応におけるモデル一般化性能の向上を目的としたデータ拡張の手法として、どの程度有効に機能するか？
• RQ4 知識をドメインに依存しない表現にフィルタリングすることで、多様で非定常な環境間での移譲性と耐性が向上するか？
• RQ5 本手法は、データレベルまたは活性化レベルで動作する既存のリプレイベースの継続的学習手法と比較して、どの程度優れているか？

主な発見

• 提案手法は、Pr → Cl シナリオで1.89%の精度向上を達成し、Pr → Ar シナリオでも1.89%の向上を示しており、異なるドリフトタイプにおいて一貫した向上を示している。
• 生成的特徴リプレイ機構は正則化として機能し、トレーニング中にドメインに依存しない特徴サンプルの拡張を提供することで、一般化性能を向上させる。
• 本手法は、生データや活性化値ではなく、抽象的で移譲可能な知識を保持することで、深刻な忘却を効果的に軽減している。
• 推論モジュールとソルバモジュールの連携により、機能的な情報ボトルネックが形成され、特徴の分離性と予測性能が向上している。
• ドメイン遷移パターンやクエリデータ構造に関する仮定を必要とせず、多様で非定常な環境においても良好な一般化性能を示している。
• 結果から、ストリーミングで動作するクラウドベースのAIシステムにおける継続的適応において、高レベルの特徴リプレイはデータレベルのリプレイよりも効果的であることが示された。