[论文解读] A Growing Long-term Episodic & Semantic Memory

Chris Tar, Marc Pickett+2 more|arXiv (Cornell University)|Oct 20, 2016

Domain Adaptation and Few-Shot Learning参考文献 24被引用 6

一句话总结

本文提出了一种终身学习系统，通过将长期记忆扩展至固定网络权重之外，整合了一种快速、非可微的按内容寻址内存，以在多样化领域中存储无限的事件记忆和语义知识。通过将记忆存储与网络权重解耦，该系统实现了持续学习、迁移学习以及随时间推移对先前知识的重用。

ABSTRACT

The long-term memory of most connectionist systems lies entirely in the weights of the system. Since the number of weights is typically fixed, this bounds the total amount of knowledge that can be learned and stored. Though this is not normally a problem for a neural network designed for a specific task, such a bound is undesirable for a system that continually learns over an open range of domains. To address this, we describe a lifelong learning system that leverages a fast, though non-differentiable, content-addressable memory which can be exploited to encode both a long history of sequential episodic knowledge and semantic knowledge over many episodes for an unbounded number of domains. This opens the door for investigation into transfer learning, and leveraging prior knowledge that has been learned over a lifetime of experiences to new domains.

研究动机与目标

• 克服由固定网络权重限制的连接主义系统固定容量问题。
• 通过存储无限的事件记忆和语义知识，实现在开放范围内的多样化领域中的终身学习。
• 通过利用一生经验中积累的先前知识，支持迁移学习。
• 设计一种快速、非可微且按内容寻址的记忆系统，以实现高效检索。
• 探索在持续学习设置中，先前知识如何被重用并迁移到新领域。

提出的方法

• 该系统使用按内容寻址的记忆模块，将事件记忆和语义知识独立于神经网络权重进行存储。
• 事件记忆被编码为顺序的经验轨迹，而语义知识则从跨事件的模式中提取。
• 通过基于内容的寻址访问记忆，实现在无需反向传播情况下的快速检索。
• 知识的存储与检索无需梯度更新，从而实现无需灾难性遗忘的持续学习。
• 该架构将记忆存储与学习过程分离，支持存储知识的无限增长。
• 系统通过在新情境中检索并重用先前存储的语义知识，支持迁移学习。

实验结果

研究问题

• RQ1 如何使终身学习系统在多样化领域中存储无限量的事件记忆和语义知识？
• RQ2 非可微的按内容寻址内存是否能有效支持持续学习且不发生灾难性遗忘？
• RQ3 在终身学习设置中，过去经验中的先前知识在多大程度上可被迁移到新领域？
• RQ4 将记忆与网络权重解耦如何实现可扩展的、开放式的知识获取？
• RQ5 何种机制可实现在异构经验之间对语义知识的高效检索与重用？

主要发现

• 通过将知识存储与神经网络权重解耦，系统实现了无限的记忆容量。
• 按内容寻址的记忆实现了事件记忆和语义知识的快速、非可微检索。
• 该架构支持在多样化领域中持续学习，且不会发生灾难性遗忘。
• 先前的语义知识可被有效检索并应用于新任务，从而实现迁移学习。
• 该系统展示了在异构经验中实现持久、可扩展记忆的终身学习的可行性。
• 记忆与学习的分离使得模块化、可扩展的终身知识获取成为可能。