[論文レビュー] FearNet: Brain-Inspired Model for Incremental Learning

Ronald Kemker, Christopher Kanan|arXiv (Cornell University)|Nov 28, 2017

Memory and Neural Mechanisms参考文献 16被引用数 271

ひとこと要約

FearNetは dual-memory（最近の記憶のためのHCと長期保存のためのmPFC）と記憶源を選択するBLAモジュールを組み合わせた脳に触発されたインクリメンタル学習モデルで、偽再体験を用いて記憶を統合します。小さなメモリフットプリントでCIFAR-100、CUB-200、AudioSetにおいて最先端の結果を達成します。

ABSTRACT

Incremental class learning involves sequentially learning classes in bursts of examples from the same class. This violates the assumptions that underlie methods for training standard deep neural networks, and will cause them to suffer from catastrophic forgetting. Arguably, the best method for incremental class learning is iCaRL, but it requires storing training examples for each class, making it challenging to scale. Here, we propose FearNet for incremental class learning. FearNet is a generative model that does not store previous examples, making it memory efficient. FearNet uses a brain-inspired dual-memory system in which new memories are consolidated from a network for recent memories inspired by the mammalian hippocampal complex to a network for long-term storage inspired by medial prefrontal cortex. Memory consolidation is inspired by mechanisms that occur during sleep. FearNet also uses a module inspired by the basolateral amygdala for determining which memory system to use for recall. FearNet achieves state-of-the-art performance at incremental class learning on image (CIFAR-100, CUB-200) and audio classification (AudioSet) benchmarks.

研究の動機と目的

• インクリメンタルクラス学習を動機づけ、過去のすべてのデータを保存せずに破局的忘却に対処する。
• 最近の記憶は海馬を、長期記憶は内側前頭前野に触発された長期記憶システムとしてFearNetを提案する。
• リコールの記憶源を選択する基底側杏仁体に触発されたセレクタを組み込む。
• 偽再体験を生成オートエンコーダによって最近の記憶を長期保存へ統合する。
• 画像および音声のベンチマークでスケーラビリティとメモリ効率を示す。

提案手法

• 最近の記憶用HC、再構成的オートエンコーダによる長期保存用のmPFC、リコール元を決定するBLAという3つのニューラルモジュール。
• 過去データを保存せずにクラスの統計量（平均と共分散）から偽の例を作成する生成オートエンコーダによる偽再体験。
• HCはクラスごとに exemplars を保存；統合後、exemplarsをmPFCへ移動しHCをクリア。
• mPFCは supervised分類と再構成の損失を組み合わせた損失（L_class + L_recon）で訓練。
• BLAはRecallをHCまたはmPFCから導く確率A(x)を出力する；最終予測はHCとmPFCの後方確率をヒューリスティックでブレンドする。

実験結果

リサーチクエスチョン

• RQ1 FearNetは過去の訓練データを保存せずに優れたインクリメンタル学習性能を達成できるか。
• RQ2 偽再体験を伴う脳に触発されたデュアルメモリ構造は、既存手法と比較して大規模ベンチマークでどうなるか。
• RQ3 ベース知識の保持と新クラスのリコールにおけるメモリ統合のタイミング（睡眠）の役割はどれか。
• RQ4 メモリフットプリントとモダリティ（画像、音声）がインクリメンタル学習性能に及ぼす影響は。
• RQ5 メモリセレクタ（BLA）はリコールを適切なメモリシステムへ効果的にルーティングできるか。

主な発見

モデル	CIFAR-100 Omega_base	CIFAR-100 Omega_new	CIFAR-100 Omega_all	CUB-200 Omega_base	CUB-200 Omega_new	CUB-200 Omega_all	AudioSet Omega_base	AudioSet Omega_new	AudioSet Omega_all
1-Nearest Neighbor	0.878	0.648	0.879	0.746	0.434	0.694	0.655	0.269	0.613
GeppNet+STM	0.866	0.408	0.800	0.764	0.204	0.645	0.941	0.372	0.861
GeppNet	0.833	0.529	0.754	0.727	0.558	0.645	0.932	0.499	0.879
FEL	0.707	0.999	0.619	0.702	0.976	0.641	0.491	1.000	0.456
iCaRL	0.746	0.807	0.749	0.942	0.547	0.864	0.740	0.487	0.733
FearNet	0.927	0.824	0.947	0.924	0.598	0.891	0.962	0.455	0.932

• FearNetはCIFAR-100、CUB-200、AudioSetのOmega_base、Omega_allでベースラインのインクリメンタル手法と比較して最先端を達成。
• FearNetの性能はオフラインMLPベースラインに近く、特に base knowledge と全体保持で顕著。
• mPFC再構成を介した偽再体験はHCから長期保存への記憶統合を可能にし、過去データを保存せずに統合を実現。
• BLAベースのメモリ選択はHCとmPFCのどちらをリコールで使うべきかを効果的に判断し、多くのケースでほぼ Oracle に近い性能を示す。
• FearNetは生データを保存せず、クラス統計量（平均と共分散）を用いることで比較的小さなメモリフットプリントを維持。
• FearNetはマルチモーダルなインクリメンタルタスクでも頑健であり、100–200クラスへのスケーラビリティを示す。