[論文レビュー] Lifelong Learning of Compositional Structures

Jorge A. Mendez, Eric Eaton|arXiv (Cornell University)|Jul 15, 2020

Domain Adaptation and Few-Shot Learning参考文献 38被引用数 11

ひとこと要約

本論文は、知識の習得を吸収（既存のコンポーネントを再利用する）と適合（新しいタスクに応じてコンポーネントを調整する）の2段階に分ける、生涯学習フレームワークを提案している。このアプローチにより、安定的かつ構成的（compositional）な知識再利用が可能になる。実騣的実験では、災難的忘却（catastrophic forgetting）を軽減し、多様なタスクにおいて解釈可能で再利用可能な機能的コンポーネントを学習し、共同学習ベースラインと比較して安定性と性能の両面で優れている。

ABSTRACT

A hallmark of human intelligence is the ability to construct self-contained chunks of knowledge and adequately reuse them in novel combinations for solving different yet structurally related problems. Learning such compositional structures has been a significant challenge for artificial systems, due to the combinatorial nature of the underlying search problem. To date, research into compositional learning has largely proceeded separately from work on lifelong or continual learning. We integrate these two lines of work to present a general-purpose framework for lifelong learning of compositional structures that can be used for solving a stream of related tasks. Our framework separates the learning process into two broad stages: learning how to best combine existing components in order to assimilate a novel problem, and learning how to adapt the set of existing components to accommodate the new problem. This separation explicitly handles the trade-off between the stability required to remember how to solve earlier tasks and the flexibility required to solve new tasks, as we show empirically in an extensive evaluation.

研究の動機と目的

• 構成的知識構造を用いた生涯学習の課題に取り組むこと。この構造は、タスク間で再利用可能である。
• 生涯学習と構成的学習を統合し、それまでの研究で別個に扱われてきた問題点を克服すること。
• 2段階の学習プロセスを通じて、自律的かつ自己完結的な再利用可能な機能的コンポーネントを発見すること。
• 災難的忘却を軽減しつつ、構造的に関連する新しいタスクに柔軟に適応できるようにすること。
• 多様な構成的構造と継続的学習メカニズムと互換性を持つ汎用フレームワークを提供すること。

提案手法

• フレームワークは生涯学習を2段階に分ける：吸収段階（既存のコンポーネントを組み合わせて新しいタスクを解く）と適合段階（新しいタスクの洞察に基づいてコンポーネントを調整する）。
• 柔らかいレイヤー順序付けを用いて、共有コンポーネント上にタスク固有の構造を学習し、微分可能な知識の構成を可能にする。
• 経験再生、エラスティック・ウェイト・コンsolidation、ファインチューニングなど、さまざまな継続的学習技術と互換性を持つ。知識保持に活用可能である。
• コンポーネントは、ピクセルレベルの再構成タスク（例：MNISTの数字）におけるエンドツーエンド学習とバイナリ・クロスエントロピー損失により学習される。
• 深さに応じてコンポーネントの強度を可視化し、学習された機能的プリミティブを解釈する。構成的ERと共同ERベースラインを比較する。
• フレームワークは、9通りの構成的構造と知識保持手法の組み合わせを用いて実装され、8つのデータセットで評価された。

実験結果

リサーチクエスチョン

• RQ1 生涯学習システムは、関連するタスクのストリームにおいて、自律的に構成的知識構造を発見し再利用できるか？
• RQ2 吸収と適合を分離することで、継続的学習における安定性と性能がどのように向上するか？
• RQ3 提案フレームワークで学習されたコンポーネントは、解釈可能で再利用可能な機能的プリミティブに対応しているか？
• RQ4 災難的忘却の軽減において、フレームワークは共同学習ベースラインと比べてどのように優れているか？
• RQ5 学習されたコンポーネントは、異なるタスクやネットワークの深さにおいて、一貫性があり意味のある効果を示すか？

主な発見

• 構成的フレームワークは、8つのデータセットにおいて、全体的な性能が高く、災難的忘却も軽減され、共同学習ベースラインを常に上回った。
• 構成的アプローチで学習されたコンポーネントは、タスクやネットワークの深さにかかわらず、一貫した解釈可能な効果（例：数字の平滑化や回転）を示した。
• 対照的に、共同ERベースラインのコンポーネントは一貫性のない挙動を示し、深さによって効果が変化し、タスク依存的であった。
• 可視化により、構成的ERコンポーネントが再利用可能な機能的プリミティブとして機能することが確認された。強度の変化により、数字画像に予測可能で意味のある変換が生じた。
• フレームワークは、自己完結的で再利用可能なコンポーネントを効果的に学習し、それらを新しい方法で組み合わせて新しいタスクを解けるようにした。
• 2段階プロセスは、旧来の知識の保持（安定性）と新しいタスクへの適応（柔軟性）のバランスを効果的に実現しており、実験的評価によって裏付けられた。