[論文レビュー] A Growing Long-term Episodic & Semantic Memory

Chris Tar, Marc Pickett+2 more|arXiv (Cornell University)|Oct 20, 2016

Domain Adaptation and Few-Shot Learning参考文献 24被引用数 6

ひとこと要約

本論文は、固定されたネットワーク重みに制限されない長期記憶を拡張するため、多様なドメインにわたる無限大のエピソード的および意味的知識を格納する、高速で微分不可能なコンテンツアドレスエブルメモリを統合した生涯学習システムを提案する。記憶の保存とネットワーク重みの分離により、時間の経過とともに継続的学習、転移学習、および過去の知識の再利用が可能になる。

ABSTRACT

The long-term memory of most connectionist systems lies entirely in the weights of the system. Since the number of weights is typically fixed, this bounds the total amount of knowledge that can be learned and stored. Though this is not normally a problem for a neural network designed for a specific task, such a bound is undesirable for a system that continually learns over an open range of domains. To address this, we describe a lifelong learning system that leverages a fast, though non-differentiable, content-addressable memory which can be exploited to encode both a long history of sequential episodic knowledge and semantic knowledge over many episodes for an unbounded number of domains. This opens the door for investigation into transfer learning, and leveraging prior knowledge that has been learned over a lifetime of experiences to new domains.

研究の動機と目的

• 固定されたネットワーク重みによって制限される接続主義的システムの固定容量を克服すること。
• エピソード的および意味的知識を無限大に格納することで、開かれた範囲のドメインにわたる生涯学習を可能にすること。
• 生涯にわたる経験から得た過去の知識を活用することで、転移学習を支援すること。
• 高速で微分不可能かつコンテンツアドレスエブルなメモリシステムを設計し、効率的な検索を可能にすること。
• 継続的学習の文脈において、過去の知識がどのように再利用され、新しいドメインに転送されるかを調査すること。

提案手法

• システムは、ニューラルネットワーク重みとは独立して、エピソード的および意味的知識を格納するコンテンツアドレスエブルメモリモジュールを用いる。
• エピソード的知識は順序付き経験トレースとしてエンコードされ、意味的知識は複数のエピソード間のパターンから導出される。
• メモリはコンテンツベースのアドレス指定によりアクセスされ、バックプロパゲーションを必要とせずに高速な検索が可能になる。
• 勾配更新を必要としないため、知識の格納と検索が可能であり、深刻な忘却を伴わず継続的学習が実現できる。
• アーキテクチャは記憶の保存と学習を分離しており、格納された知識の無限大の増大を可能にする。
• 新しい文脈で以前に格納された意味的知識を検索・再利用できることにより、システムは転移学習をサポートする。

実験結果

リサーチクエスチョン

• RQ1 多様なドメインにわたって、どのようにして生涯学習システムが無限大のエピソード的および意味的知識を格納できるか。
• RQ2 微分不可能でコンテンツアドレスエブルなメモリは、深刻な忘却を伴わず継続的学習を効果的に支援できるか。
• RQ3 生涯学習の設定において、過去の経験から得た知識が、新しいドメインにどの程度転送可能か。
• RQ4 記憶とネットワーク重みの分離が、スケーラブルで開かれた知識獲得をどのように可能にするか。
• RQ5 異種の経験にわたって、意味的知識の効率的検索と再利用を可能にするメカニズムは何か。

主な発見

• 知識の保存とニューラルネットワーク重みの分離により、システムは無限大のメモリ容量を達成する。
• コンテンツアドレスエブルメモリにより、エピソード的および意味的知識の高速で微分不可能な検索が可能になる。
• アーキテクチャは、深刻な忘却を伴わず、多様なドメインにわたる継続的学習をサポートする。
• 過去に得た意味的知識は、効果的に検索され、新しいタスクに適用可能であり、転移学習を実現する。
• 本システムは、異種の経験にわたる持続的でスケーラブルな記憶を備えた生涯学習の実現可能性を示している。
• 記憶と学習の分離により、モジュラーで拡張可能な生涯知識獲得が可能になる。