[논문 리뷰] One-shot Learning with Memory-Augmented Neural Networks

Adam Santoro, Sergey Bartunov외 3명|arXiv (Cornell University)|2016. 05. 19.

Domain Adaptation and Few-Shot Learning참고 문헌 17인용 수 298

한 줄 요약

이 논문은 memory-augmented neural networks(MANNs)가 매우 적은 예제로부터 학습하고 외부 메모리를 통해 빠르게 적응할 수 있어 원샷 분류와 회귀를 가능하게 한다는 것을 보여준다. 콘텐츠 기반 검색에 초점을 맞춘 메모리 접근 모듈과 Least Recently Used(LRU) memory writing 메커니즘을 도입한다.

ABSTRACT

Despite recent breakthroughs in the applications of deep neural networks, one setting that presents a persistent challenge is that of "one-shot learning." Traditional gradient-based networks require a lot of data to learn, often through extensive iterative training. When new data is encountered, the models must inefficiently relearn their parameters to adequately incorporate the new information without catastrophic interference. Architectures with augmented memory capacities, such as Neural Turing Machines (NTMs), offer the ability to quickly encode and retrieve new information, and hence can potentially obviate the downsides of conventional models. Here, we demonstrate the ability of a memory-augmented neural network to rapidly assimilate new data, and leverage this data to make accurate predictions after only a few samples. We also introduce a new method for accessing an external memory that focuses on memory content, unlike previous methods that additionally use memory location-based focusing mechanisms.

연구 동기 및 목표

• 메모리 보강 신경망이 극히 적은 샘플에서 새로운 데이터를 빠르게 흡수할 수 있음을 입증한다.
• 위치 기반 주소 지정보다 콘텐츠 기반 검색을 강조하는 메모리 접근 메커니즘을 선보인다.
• Omniglot 분류와 Gaussian process 기반 회귀 작업에서 메타-학습 능력을 평가한다.
• 저데이터 regime에서 표준 RNN, LSTMs, 및 k-NN에 비해 MANN 성능을 비교한다.

제안 방법

• 신경 컨트롤러에 의해 제어되는 읽기/쓰기 헤드를 갖춘 NTM 스타일의 외부 메모리 사용.
• 학습된 게이트를 기반으로 가장 사용되지 않았거나 가장 최근의 메모리 슬롯에 쓰기를 선호하는 Least Recently Used Access(LRUA) 메모리 쓰기기를 도입한다.
• Prediction을 위한 관련 바인딩을 검색하기 위해 코사인 유사도로 메모리를 사용한다.
• 메타 학습을 위한 에피소드로 작업을 구성하고, 메모리 기반 바인딩을 요구하기 위해 라벨이 시간적으로 오프셋된 방식으로 제공된다.
• 전체적으로 경사하강법으로 끝까지 학습하여 에피소드의 분포 전체에서 예상 손실을 최소화한다.
• 분류를 위한 Omniglot과 회귀를 위한 Gaussian-process 샘플링 함수에서 평가한다.

실험 결과

연구 질문

• RQ1 단 한 번의 제시에 새로운 데이터 표현을 라벨에 빠르게 바인딩할 수 있는 메모리 보강 신경망이 있는가?
• RQ2 LRUA 쓰기가 있는 콘텐츠 기반 메모리 주소 지정이 NTMs에서 위치 기반 주소 지정보다 원샷 학습을 개선하는가?
• RQ3 메모리 보강 신경망은 희소한 데이터로 분류 및 회귀를 위한 메타 학습에서 베이스라인 대비 어떠한가?
• RQ4 에피소드 간 메모리 간섭이 원샷 학습 성능에 미치는 영향은 무엇인가?

주요 결과

인스턴스(정확도 %)	모델	1번째	2번째	3번째	4번째	5번째	10번째
34.5	Human	34.5	57.3	70.1	71.8	81.4	92.4
24.4	Feedforward	24.4	19.6	21.1	19.9	22.8	19.5
24.4	LSTM	24.4	49.5	55.3	61.0	63.6	62.5
36.4	MANN	36.4	82.8	91.0	92.6	94.9	98.1

• Omniglot에서 MANN은 첫 번째 에피소드 정확도 82.8%, 다섯 클래스 에피소드에서 한 번에 10회 제시 후 최대 98.1%까지 달성.
• 다섯 문자 문자열 레이블에서 첫 인스턴스 정확도는 0%이지만 2~6번째 인스턴스까지 69.5–93.1%에 이르러 다양한 설정에서 빠른 원샷 학습을 시연.
• MANN은 여러 구성을 통해 Omniglot 분류에서 피드포워드 네트, LSTM, kNN 베이스라인보다 한-shot에서 우수한 성능을 보인다.
• 메모리 간섭(에피소드 간 메모리 지우지 않음)은 성능을 저하시키며, 교차 작업 오염을 방지하기 위한 메모리 관리의 필요성을 보여준다.
• 커리큘럼 트레이닝은 에피소드당 클래스 수를 점진적으로 증가시키면서도 높은 성능을 유지, MANN 프레임워크에서의 원샷 학습 능력의 확장 가능성을 시사.
• Gaussian 프로세스에서 추출된 함수에 대한 회귀에서 MANN의 예측은 기본 함수의 추적에 있으며 메모리에 더 많은 샘플이 저장될수록 개선되고, 멀리 있는 입력에 대해 불확실성이 증가한다.