[논문 리뷰] A Combinatorial Perspective on Transfer Learning

Jianan Wang, Eren Sezener외 3명|arXiv (Cornell University)|2020. 10. 23.

Domain Adaptation and Few-Shot Learning참고 문헌 35인용 수 4

한 줄 요약

이 논문은 신경망이 국소적이고 모듈화된, 작업에 특화된 노드를 통합함으로써, 복잡한 조합적 전이 학습 프레임워크를 제안하여, 예측할 수 없는 작업의 수를 지수적으로 증가시키는 일반화 능력을 향상시킨다. 작업 분할과 기억 기반 통합을 위해 Forget-Me-Not Process를 사용하고, 모듈화되고 국소적인 학습을 위해 게이팅된 선형 네트워크(Gated Linear Networks)를 사용함으로써, 치명적인 잊음 없이 강력한 지속적 학습을 달성하며, 점차 증가하는 정의적 전이를 보이며, Split/Permuted MNIST 및 실제 전력 시장 데이터에서 최신의 온라인 및 오프라인 방법들을 능가한다.

ABSTRACT

Human intelligence is characterized not only by the capacity to learn complex skills, but the ability to rapidly adapt and acquire new skills within an ever-changing environment. In this work we study how the learning of modular solutions can allow for effective generalization to both unseen and potentially differently distributed data. Our main postulate is that the combination of task segmentation, modular learning and memory-based ensembling can give rise to generalization on an exponentially growing number of unseen tasks. We provide a concrete instantiation of this idea using a combination of: (1) the Forget-Me-Not Process, for task segmentation and memory based ensembling; and (2) Gated Linear Networks, which in contrast to contemporary deep learning techniques use a modular and local learning mechanism. We demonstrate that this system exhibits a number of desirable continual learning properties: robustness to catastrophic forgetting, no negative transfer and increasing levels of positive transfer as more tasks are seen. We show competitive performance against both offline and online methods on standard continual learning benchmarks.

연구 동기 및 목표

• 딥 러닝이 온라인 지속적 학습에서 치명적인 잊음과 데이터 효율성 부족으로 인해 겪는 한계를 해결하기 위해.
• 모듈화되고 조합적인 전이를 통해 예측할 수 없는 작업의 수가 기하급수적으로 증가하는 일반화를 가능하게 하기 위해.
• 작업 경계나 식별 정보가 없이도 작업 분할, 모듈화된 학습, 기억 기반 통합을 활용하는 프레임워크를 개발하기 위해.
• 작업 경계나 식별 정보 없이도 온라인 환경에서 강력한 정의적 전방 및 후방 전이를 보이며, 부정적 전이가 없는지 확인하기 위해.
• 배치 i.i.d. 학습의 대안으로서 온라인 스트리밍 데이터를 사용해 데이터 효율적이고 프라이버시 우호적인 방법을 제공하기 위해.

제안 방법

• 프레임워크는 작업을 동적으로 분할하고 과거의 작업별 모델을 기억하는 데 Forget-Me-Not Process를 사용한다.
• 모듈화되고 국소적인 학습을 가능하게 하기 위해 각 뉴런별로 Gated Linear Networks (GLNs)를 활용하며, 명시적인 노드 수준 통합을 지원한다.
• 작업별 네트워크는 노드 수준에서 국소적으로 통합되어, $ h $개의 작업과 $ m $개의 노드로부터 $ h^m $개의 가상 작업 구성이 가능해진다.
• 확률적 예측과 온라인 가중치 업데이트를 위해 기하학적 혼합을 사용하며, 원시 데이터를 저장하지 않고도 지속적인 적응이 가능하다.
• 배치 i.i.d. 학습에 의존하지 않으며, 명시적인 작업 식별 또는 경계 탐지가 필요하지 않다.
• GLNs와 FMN을 조합하여 상호 보완적인 시스템을 구축함으로써, 조합적 전이와 분포 이탈에 대한 강건성을 지원한다.

실험 결과

연구 질문

• RQ1 일련의 작업을 학습한 신경망이 국소적 노드 통합을 통해 예측할 수 없는 가상 작업의 지수적 증가 수준에서 일반화할 수 있는가?
• RQ2 GLNs와 같은 모듈화되고 국소적인 학습 메커니즘이 온라인 지속적 학습에서 치명적인 잊음을 겪지 않고 효과적인 조합적 전이를 가능하게 하는가?
• RQ3 시스템은 작업 경계나 식별 정보 없이도 정의적 전방 및 후방 전이를 보이는가?
• RQ4 작업 식별 정보가 알려지지 않은 상황에서 분포 이탈이 발생할 경우, 기존의 지속적 학습 알고리즘과 비교해 이 방법은 어떻게 성능을 발휘하는가?
• RQ5 기존 데이터를 저장하지 않고도 실제 비정상적인 데이터 스트림에서 높은 성능을 유지를 할 수 있는가?

주요 결과

• 제안된 nctl 알고리즘은 Split Fashion MNIST 벤치마크에서 97.31 ± 0.11의 정확도를 기록하여, 이전의 온라인 방법들을 능가하고, 오프라인 상한선인 98.59 ± 0.15에 가까워졌다.
• 분포 이탈이 알려지지 않은 Electricity (Elec2-3) 데이터셋에서 nctl은 86.37%의 정확도를 기록하여, SPLICE-2(66–67.7%)와 DWM-NB(80.75%)를 크게 앞섰다.
• 시스템은 치명적인 잊음을 보이지 않았고, 더 많은 작업을 학습함에 따라 점차 증가하는 정의적 후방 전이를 보이며 효과적인 지식 유지 능력을 입증했다.
• 조합적 전이가 실험적으로 검증되었으며, 모델은 $ h^m $개의 가상 작업으로 일반화되었고, 의미적으로 유의미한 작업 조합이 이루어졌다.
• 분포 이탈에 대해 강건성을 보였으며, 작업 식별 또는 경계 탐지가 필요하지 않아 진정한 온라인 지속적 학습이 가능했다.
• 원시 데이터를 저장하지 않아도 경쟁 가능한 성능를 달성하여, 프라이버시 보호 학습을 지원했다.