[論文レビュー] Saliency Guided Experience Packing for Replay in Continual Learning

Gobinda Saha, Kaushik Roy|arXiv (Cornell University)|Sep 10, 2021

Domain Adaptation and Few-Shot Learning被引用数 4

ひとこと要約

本稿では、経験パッケージングとリプレイ（EPR）を提案する。EPRは、モデルの予測に重要な領域（注目領域）を示すサリエンシーマップに基づいて、全画像ではなく画像の局所的パッチを選択してエピソード的メモリに格納する連続学習手法である。これらの情報量の多いパッチをゼロパディングして再利用することで、EPRはメモリ効率を向上させ、深刻な忘却を軽減し、CIFAR-100、miniImageNet、CUBの各データセットで最小限のメモリサイズで最先端の精度を達成する。

ABSTRACT

Artificial learning systems aspire to mimic human intelligence by continually learning from a stream of tasks without forgetting past knowledge. One way to enable such learning is to store past experiences in the form of input examples in episodic memory and replay them when learning new tasks. However, performance of such method suffers as the size of the memory becomes smaller. In this paper, we propose a new approach for experience replay, where we select the past experiences by looking at the saliency maps which provide visual explanations for the model's decision. Guided by these saliency maps, we pack the memory with only the parts or patches of the input images important for the model's prediction. While learning a new task, we replay these memory patches with appropriate zero-padding to remind the model about its past decisions. We evaluate our algorithm on CIFAR-100, miniImageNet and CUB datasets and report better performance than the state-of-the-art approaches. With qualitative and quantitative analyses we show that our method captures richer summaries of past experiences without any memory increase, and hence performs well with small episodic memory.

研究の動機と目的

• エピソード的メモリの情報量を向上させることで、そのサイズを増大させずに連続学習における深刻な忘却を解消すること。
• 限られたサンプルに過学習が生じる小メモリ環境下で、経験リプレイの性能劣化を克服すること。
• 説明可能なAI（XAI）技術、特にサリエンシーマップを活用して、過去のタスク予測に最も関連する画像領域のみを同定・保存すること。
• クラスごとに同じメモリ容量を維持しつつ、サンプルの多様性を向上させるメモリパッケージング機構を設計すること。
• ゼロパディングを施したサリエンシーパッチをリプレイすることで、全画像リプレイに比べて一般化性能が向上し、忘却が軽減されることを示すこと。

提案手法

• 各タスク終了後に、入力画像内の局所的で予測に重要な領域を特定するためにサリエンシーマップ（例：Grad-CAM）を用いる。
• 各画像からサリエンシーマップで強調されたパッチを抽出し、その空間的座標とともにエピソード的メモリバッファに格納する。
• 1クラスあたりのパッチ数と各パッチのサイズを制御するための経験パッケージング要因（EPF）を導入する。
• 複数のサリエンシーパッチを組み合わせて各クラスごとに合成メモリ画像を構築し、メモリ容量を増大させずに多様性を向上させる。
• 新しいタスクの学習時に、格納済みのパッチを取得し、元の画像サイズにゼロパディングしてから、現在のタスクデータと併せて学習する。
• 現在のタスクデータとゼロパディング済みメモリパッチからの損失を統合した損失関数に対して、標準的なバックプロパゲーションと最適化手法を適用する。

実験結果

リサーチクエスチョン

• RQ1 サリエンシーマップに基づくパッチ選択は、メモリサイズを増大させずにエピソード的メモリの代表性を向上させることができるか？
• RQ2 さまざまなメモリ制約下で、EPRは最先端の経験リプレイ手法と比較してどのように性能を発揮するか？
• RQ3 サリエンシーマップの算出方法が、提案されたEPRフレームワークの性能に顕著な影響を与えるか？
• RQ4 全画像リプレイベースラインと比較して、EPRはどの程度過学習と忘却を軽減できるか？
• RQ5 EPRの計算オーバーヘッドはどの程度で、サリエンシーやゼロパディング処理が追加されたにもかかわらず、依然として効率的か？

主な発見

• EPRはCIFAR-100、miniImageNet、CUBの各データセットで最先端の精度を達成し、全メモリサイズにおいてDER++、ER-RING、MEGA-Iを上回った。
• CIFAR-100ではEPF=2で58.5%の精度を達成し、EPFがこの値を超えると性能が低下した。これは、1クラスあたりの最適なパッチサイズと数が存在することを示唆している。
• miniImageNetではEPF=3で最高の性能を達成した。これは、パッチサイズと数がデータセット依存であり、サリエンシーマップの品質と関連していることを裏付けた。
• EPRのメモリバッファで学習されたモデルは、DER++ や ER-RING バッファで学習されたモデルよりも一般化性能が高く、アブレーションスタディでも最高のマルチタスク精度を示した。
• サリエンシーマップの算出方法に依存しなくても安定した性能を発揮し、Grad-CAM、Grad-CAM++、Smooth-Grad、FullGradの間で性能差は1%未満にとどまった。
• EPRは標準的なER-RINGに比べて約30%の追加トレーニング時間で済み、同時に約7%の精度向上を達成した。これは、効率的かつ効果的な手法であることを示している。