[論文レビュー] Task-Aware Information Routing from Common Representation Space in Lifelong Learning

Prashant Bhat, Bahram Zonooz+1 more|arXiv (Cornell University)|Feb 14, 2023

Domain Adaptation and Few-Shot Learning被引用数 5

ひとこと要約

TAMiLは、共通表現空間からグローバルワークスペースへのタスク固有の情報ルーティングを可能にする、アンダーコンプリート自己オートエンコーダーに基づくタスク固有のアテンションモジュール（TAM）を用いた continual learning 法を提案する。この手法は干渉と深刻な忘却を軽減し、低バッファ環境や長期間のタスクシーケンスにおいても、最先端のリハーサル法および動的スパース法を上回る性能を発揮する。また、タスクの新鮮さバイアスを軽減し、モデルのキャリブレーション性能を向上させる。

ABSTRACT

Intelligent systems deployed in the real world suffer from catastrophic forgetting when exposed to a sequence of tasks. Humans, on the other hand, acquire, consolidate, and transfer knowledge between tasks that rarely interfere with the consolidated knowledge. Accompanied by self-regulated neurogenesis, continual learning in the brain is governed by a rich set of neurophysiological processes that harbor different types of knowledge, which are then integrated by conscious processing. Thus, inspired by the Global Workspace Theory of conscious information access in the brain, we propose TAMiL, a continual learning method that entails task-attention modules to capture task-specific information from the common representation space. We employ simple, undercomplete autoencoders to create a communication bottleneck between the common representation space and the global workspace, allowing only the task-relevant information to the global workspace, thus greatly reducing task interference. Experimental results show that our method outperforms state-of-the-art rehearsal-based and dynamic sparse approaches and bridges the gap between fixed capacity and parameter isolation approaches while being scalable. We also show that our method effectively mitigates catastrophic forgetting while being well-calibrated with reduced task-recency bias.

研究の動機と目的

• 脳における神経生理的プロセス、特に自己調節的ニューロジェネシスと意識的情報アクセスを模倣することで、 continual learning における深刻な忘却を解消すること。
• タスク固有のアテンションモジュールによる通信のブottleneckを導入することで、クラスインクリメンタルおよびタスクインクリメンタル学習におけるタスク干渉を低減すること。
• リハーサルベースの手法が通常劣化する低メモリ予算および長期間のタスクシーケンス下でも、モデルのスケーラビリティと性能を向上させること。
• continual learning システムで一般的な問題であるタスクの新鮮さバイアスとモデルのキャリブレーション不良を軽減すること。
• タスクアテンションモジュールの一般化可能性を示すこと。

提案手法

• TAMiLは、すべてのタスクに共通する入力の共通表現空間へのマッピングを実行する共有バックボーンネットワークを用いる。
• 各タスクは、タスク固有の特徴のみが通過できるようにするための、シンプルでアンダーコンプリートな自己オートエンコーダーとして実装されたタスク固有のアテンションモジュール（TAM）を採用する。
• TAMは選択的なゲートとして機能し、共通表現空間からグローバルワークスペースへのタスク固有の特徴の通過を許可することで、干渉を最小限に抑える。
• 固定容量のメモリバッファを用いた経験リハーサルと組み合わせることで、容量制限下での継続的学習を実現する。
• 推論時、真のTAM（オラクル）または学習済みTAMを用いて情報のルーティングが行われ、後者によりスケーラビリティとパラメータ増加の低減が可能になる。
• 本手法はER、FDR、DER++など、さまざまなCLアルゴリズムと互換性があり、広範な適用可能性を示している。

実験結果

リサーチクエスチョン

• RQ1 アテンションモジュールによるタスクに適応した情報ルーティングは、continual learning における深刻な忘却を軽減できるか？
• RQ2 アンダーコンプリート自己オートエンコーダーに基づくTAMによるブottleneck化は、クラスインクリメンタルおよびタスクインクリメンタル学習における一般化性能の向上と干渉の低減に寄与するか？
• RQ3 TAMiLは、リハーサル法およびパラメータ隔離ベースラインと比較して、低メモリ予算および長期間のタスクシーケンス下でどの程度の性能を示すか？
• RQ4 TAMiLは、continual learning におけるタスクの新鮮さバイアスおよびモデルのキャリブレーション不良をどの程度軽減できるか？
• RQ5 提案されたTAM機構は、さまざまな continual learning フレームワークに一般化可能か？

主な発見

• TAMiLは、特に固定バッファサイズ500の条件下で、Seq-CIFAR100において最先端のリハーサルベースおよび動的スパース法を上回り、平均精度の顕著な向上を達成した。
• TAMiLはタスクの新鮮さバイアスを顕著に低減した。ERとは異なり、全タスクにわたるタスク確率が均等に分布しており、ERは最近のタスクを最大8倍まで優遇していた。
• TAMiLはベースラインの中で予想される信頼度と実際の正答率の整合性が最も高い、予想されるキャリブレーション誤差（ECE）を達成した。
• 20タスクにまで及ぶ長期間のタスクシーケンス下でも、TAMiLは強力な性能を維持しており、長期的深刻な忘却に対する耐性を示した。
• アブレーションスタディの結果、TAMはすべてのCL手法において性能を顕著に向上させ、オラクルTAMではほぼ最適な結果が得られた。
• コンactな自己オートエンコーダーの設計のおかげで、タスクごとのパラメータ増加は無視できるほど小さく、TAMiLは容量の飽和を伴わずにスケーラブルである。