[論文レビュー] Expert Gate: Lifelong Learning with a Network of Experts

Rahaf Aljundi, Punarjay Chakravarty+1 more|arXiv (Cornell University)|Nov 18, 2016

Domain Adaptation and Few-Shot Learning被引用数 4

ひとこと要約

この論文では、過去のデータを保存せずに、テスト時にゲーティング自己符号化器を用いて最も関連性の高いエキスパートモデルを動的に選択する、Expert Gateという生涯学習フレームワークを提案する。これにより、記憶効率が高く、スケーラブルで、効率的な推論が可能になる。タスクの類縁度を活用した選択的知識移転と自動エキスパートルーティングにより、画像および動画予測タスクにおいて、順次微調整と共同学習を凌駕する性能を発揮する。

ABSTRACT

In this paper we introduce a model of lifelong learning, based on a Network of Experts. New tasks / experts are learned and added to the model sequentially, building on what was learned before. To ensure scalability of this process,data from previous tasks cannot be stored and hence is not available when learning a new task. A critical issue in such context, not addressed in the literature so far, relates to the decision which expert to deploy at test time. We introduce a set of gating autoencoders that learn a representation for the task at hand, and, at test time, automatically forward the test sample to the relevant expert. This also brings memory efficiency as only one expert network has to be loaded into memory at any given time. Further, the autoencoders inherently capture the relatedness of one task to another, based on which the most relevant prior model to be used for training a new expert, with finetuning or learning without-forgetting, can be selected. We evaluate our method on image classification and video prediction problems.

研究の動機と目的

• 過去の学習データを保存せずに、生涯学習におけるテスト時における最も関連性の高いエキスパートモデルの選択という課題に取り組む。
• 入力の内容に基づいて、入力を最も適切なエキスパートネットワークに動的にルーティングすることで、スケーラブルな生涯学習を実現する。
• 1つのエキスパートモデルのみをロードするようにすることで、メモリのオーバーヘッドを低減するため、軽量なゲーティング機構を用いる。
• 過去の最も関連性の高いエキスパートを特定することで、知識移転を改善し、忘却を伴わない学習を実現する。
• 自己符号化器が、ラベル付きデータを必要とせず、識別的分類器と同等の性能を示すタスク認識器として有効であることを実証する。

提案手法

• 各エキスパートをタスク固有のニューラルネットワークとして順次新規データ上で訓練し、エキスパートのネットワークを構築する。
• 各エキスパートごとに、タスクの入力分布のコンactで共有される表現を学習するためのゲーティング自己符号化器を訓練する。
• テスト時、各エキスパートの自己符号化器が入力を評価し、トレーニング分布との類似度に基づいて最も関連性の高いエキスパートにルーティングする。
• タスクに適応したルーティングを保証するため、自己符号化器をその対応エキスパートネットワークとともにエンド・ツー・エンドで訓練する。
• 自己符号化器の再構成から得られるタスク類縁度スコアを用いて、新しいエキスパートの訓練中に知識移転をガイドする。
• すべての過去モデルを微調整するのではなく、最も関連性の高い過去のエキスパートのみを部分的に微調整することで、悲観的忘却を回避する。

実験結果

リサーチクエスチョン

• RQ1 データフリーなゲーティング機構は、生涯学習の文脈において、テストサンプルを最も関連性の高いエキスパートモデルに効果的にルーティングできるか？
• RQ2 自己符号化器に基づくゲーティングの性能は、全データで訓練された識別的分類器と比較してどうか？
• RQ3 自己符号化器を用いて、知識移転のための最も関連性の高い過去のエキスパートを特定できるか？これにより、忘却を伴わない学習が向上するか？
• RQ4 Expert Gateは、順次微調整および共同学習よりも、精度とメモリ効率の面で優れているか？
• RQ5 ゲーティング機構は、画像分類や動画予測といった多様なタスクに一般化できるか？

主な発見

• 動画予測タスクにおいて、Expert Gateは平均L1距離23.4を達成し、順次微調整（31.1）を上回り、共同学習（23.8）と同等の性能を発揮した。これは、すべての過去データにアクセスしない状況下でも成立する。
• 画像分類タスクでは、Expert Gateは共同学習の性能を同等または上回り、悲観的忘却を回避するとともに、メモリ負荷を低減した。
• ゲーティング自己符号化器は、全データで訓練された識別的分類器と同等のタスク認識精度を達成し、データフリーなタスク認識器としての有効性を示した。
• システムは、推論時に1つのエキスパートモデルのみをロードすることで、メモリ使用量を著しく削減し、リソース制限のあるデバイスにおけるスケーラビリティを実現した。
• 定性的な結果から、Expert Gateは特にレーンマークやシーン構造の保持において、順次微調整よりもより正確な動画予測を生成した。
• 自己符号化器はタスクの類縁度を効果的に捉え、知識移転のための適切な過去エキスパートの選択を可能にし、一般化性能の向上と忘却の低減に寄与した。