[論文レビュー] Lightweight Learner for Shared Knowledge Lifelong Learning

Yunhao Ge, Yuecheng Li+13 more|arXiv (Cornell University)|May 24, 2023

COVID-19 diagnosis using AI被引用数 6

ひとこと要約

本論文では、複数のエージェントが並列にタスクを学習し、軽量でタスク固有のモジュールおよび共通の潜在空間内の共有 'タスクアンカー' を介して知識を共有する分散型フレームワーク、共有知識持続的学習（SKILL）を紹介する。提案された軽量学習者（LLL）は、102の画像分類タスクと5,033クラスを含む挑戦的なSKILL-102データセットにおいて最先端の正確性を達成するとともに、ほぼ完全な並列化と最小限の悲観的忘却を実現する。

ABSTRACT

In Lifelong Learning (LL), agents continually learn as they encounter new conditions and tasks. Most current LL is limited to a single agent that learns tasks sequentially. Dedicated LL machinery is then deployed to mitigate the forgetting of old tasks as new tasks are learned. This is inherently slow. We propose a new Shared Knowledge Lifelong Learning (SKILL) challenge, which deploys a decentralized population of LL agents that each sequentially learn different tasks, with all agents operating independently and in parallel. After learning their respective tasks, agents share and consolidate their knowledge over a decentralized communication network, so that, in the end, all agents can master all tasks. We present one solution to SKILL which uses Lightweight Lifelong Learning (LLL) agents, where the goal is to facilitate efficient sharing by minimizing the fraction of the agent that is specialized for any given task. Each LLL agent thus consists of a common task-agnostic immutable part, where most parameters are, and individual task-specific modules that contain fewer parameters but are adapted to each task. Agents share their task-specific modules, plus summary information ("task anchors") representing their tasks in the common task-agnostic latent space of all agents. Receiving agents register each received task-specific module using the corresponding anchor. Thus, every agent improves its ability to solve new tasks each time new task-specific modules and anchors are received. On a new, very challenging SKILL-102 dataset with 102 image classification tasks (5,033 classes in total, 2,041,225 training, 243,464 validation, and 243,464 test images), we achieve much higher (and SOTA) accuracy over 8 LL baselines, while also achieving near perfect parallelization. Code and data can be found at https://github.com/gyhandy/Shared-Knowledge-Lifelong-Learning

研究の動機と目的

• 逐次的で単一エージェントに依存する持続的学習の限界を克服し、複数エージェント間で分散的かつ並列的に学習を可能にすること。
• 通信コストを最小限に抑え、悲観的忘却を回避するスケーラブルで効率的な知識共有メカニズムを設計すること。
• 分散的統合を通じて、すべてのエージェントが共有知識を段階的に統合し、最終的にすべてのタスクを習得できるようにすること。
• 並列化による顕著な高速化を実現しつつ、大規模で複雑な持続的学習タスクにおいて高い正確性を維持すること。

提案手法

• 共有知識を表すために、各エージェントは固定されたタスクに依存しないバックボーン（ImageNetで事前学習済み）を用い、タスク固有のパラメータ増加を最小限に抑える。
• タスク固有の知識は、有益バイアス（BB）を備えた軽量で柔軟なヘッドに符号化され、ドメインギャップの緩和に寄与する。
• エージェントは、タスク固有のモジュールと 'タスクアンカー' — 共通潜在空間内でのタスクのグローバル表現 — のみを共有することで、効率的な知識転送を実現する。
• 受信エージェントは、対応するアンカーを用いて新しいモジュールを登録し、再学習なしに新しいタスクの解決を段階的に改善できる。
• GMMC/MAHAに基づくタスクマッパーにより、タスクオラクルがなくてもアンカーの照合が可能となり、視覚的・意味的埋め込みを用いて新しいタスクを分類する。
• 知識統合は分散的である：エージェントは他のエージェントからモジュールとアンカーを受け取ることで時間経過とともに改善し、最終的に同一で完全に機能するモデルに収束する。

実験結果

リサーチクエスチョン

• RQ1 分散型のエージェント集団は、逐次的で単一エージェントのアプローチに比べ、より高速かつスケーラブルな学習を達成できるか？
• RQ2 知識をどのようにコンactに表現・共有することで、通信オーバーヘッドを最小限に抑えつつ高い正確性を維持できるか？
• RQ3 固定バックボーンとオンデマンドバイアスを備えた軽量でモジュラーなアーキテクチャは、大規模な持続的学習における悲観的忘却を効果的に緩和できるか？
• RQ4 共有潜在空間内のタスクアンカーは、どの程度、オラクルなしで正確なタスク同定と知識統合を可能にするか？
• RQ5 提案されたSKILLフレームワークは、複雑なマルチタスクベンチマークで、ほぼ完全な並列化による高速化を実現しつつ、最先端の性能を達成できるか？

主な発見

• 提案された軽量学習者（LLL）は、SKILL-102ベンチマークで8つの既存の持続的学習ベースラインを上回る最先端の正確性を達成した。
• フレームワークはほぼ完全な並列化を実現し、N体のエージェントを用いた場合に最小0.5×Nの高速化を達成し、逐次ベースラインを著しく上回った。
• 有益バイアス（BB）の使用によりドメインギャップの干渉が軽減され、ImageNetからの分布シフトが大きいタスクにおいても性能が向上した。
• GMMC/MAHAタスクマッパーは、新しいタスクを以前に学習したタスクに照合する際、84％を超える正確性を達成し、タスクオラクルなしで効果的な分散的統合を可能にした。
• モデルは大規模タスクに効果的にスケーリング可能である：102のタスクにまたがる5,033クラスの学習が、最小限のパラメータ増加と高い効率性を維持して可能である。
• 固定バックボーンと軽量でオンデマンドのヘッドを組み合わせた設計により、悲観的忘却が最小限に抑えられ、エージェント間での効率的な知識共有が実現した。