[논문 리뷰] Sequential mastery of multiple visual tasks: Networks naturally learn to learn and forget to forget

Guy Davidson, Michael C. Mozer|arXiv (Cornell University)|2019. 05. 26.

Domain Adaptation and Few-Shot Learning인용 수 4

한 줄 요약

이 논문은 표준 합성곱 신경망이 특수한 아키텍처나 정규화 없이도 순차적으로 여러 시각적 작업을 학습할 때 자연스럽게 전행 촉진(앞선 작업에 대한 빠른 학습)과 후행 간섭 감소(이전 작업의 기억 상실 감소)를 보임을 보여준다. 네트워크가 더 많은 작업을 습득할수록 새로운 작업을 더 빨리 학습하고 오래된 작업을 덜 잊는다—이는 더 넓은 도메인 경험을 통해 연속 학습 능력이 본질적으로 향상되며, 인간과 유사한 학습 확장성과 유사함을 시사한다.

ABSTRACT

We explore the behavior of a standard convolutional neural net in a continual-learning setting that introduces visual classification tasks sequentially and requires the net to master new tasks while preserving mastery of previously learned tasks. This setting corresponds to that which human learners face as they acquire domain expertise serially, for example, as an individual studies a textbook. Through simulations involving sequences of ten related visual tasks, we find reason for optimism that nets will scale well as they advance from having a single skill to becoming multi-skill domain experts. We observe two key phenomena. First, \\emph{forward facilitation}---the accelerated learning of task $n+1$ having learned $n$ previous tasks---grows with $n$. Second, \\emph{backward interference}---the forgetting of the $n$ previous tasks when learning task $n+1$---diminishes with $n$. Amplifying forward facilitation is the goal of research on metalearning, and attenuating backward interference is the goal of research on catastrophic forgetting. We find that both of these goals are attained simply through broader exposure to a domain.

연구 동기 및 목표

• 표준 신경망이 여러 순차적 시각적 작업 간의 연속 학습에서 어떻게 확장되는지 조사하기.
• 증가하는 작업 노출에 따라 전행 촉진(새로운 작업의 더 빠른 학습)과 후행 간섭 감소(이전에 학습한 작업의 더 적은 기억 상실)가 자연스럽게 발생하는지 검토하기.
• 특수한 메커니즘이나 정규화 없이도 더 넓은 도메인 경험 자체가 치명적 기억 상실을 완화하고 메타학습 유사 이점을 향상시킬 수 있는지 평가하기.
• 신경망 학습 동역학과 인간 인지적 학습 패턴 간의 유사성, 특히 분산 연습과 작업 유사성 효과를 탐색하기.

제안 방법

• 10개의 관련된 시각 분류 작업을 엄격한 순차적 순서로 표준 합성곱 신경망에 훈련하기.
• 각 새로운 작업에 대해 기준 성능에 도달하기까지 필요한 훈련 시도 수를 측정하면서 이전에 학습한 작업의 성능를 유지하기.
• 새로운 작업을 학습한 후 이전 작업의 성능 저하 정도를 측정하여 후행 간섭을 정량화하고, 성능 복구를 위해 소요되는 재학습 노력도 추적하기.
• 학습 곡선의 비율 법칙 및 간섭과 촉진의 비단조화적 패턴을 포함한 작업 간 스케일링 행동 분석하기.
• 작업 유사성 효과를 시험하기 위해 작업 차원을 다양화(예: 질감 대 모양)하고, 시각 처리에 작업 기반 조절 도입하기.
• 로그-로그 플롯을 사용하여 작업 수와 훈련 노출에 따른 학습 효율의 비율 법칙 스케일링 평가하기.

실험 결과

연구 질문

• RQ1 네트워크가 더 많은 시각적 작업을 습득할수록 전행 촉진—후속 작업의 더 빠른 학습—이 자연스럽게 발생하는가?
• RQ2 네트워크가 순차적 학습을 통해 더 많은 도메인 전문성을 쌓을수록 후행 간섭—이전에 학습한 작업의 기억 상실—이 감소하는가?
• RQ3 이미 학습한 작업의 수가 새로운 작업 습득의 학습 효율성과 안정성에 어떤 영향을 미치는가?
• RQ4 작업 유사성이 순차적 연속 학습에서 간섭과 촉진에 얼마나 큰 영향을 미치는가?
• RQ5 순차적 작업 노출을 통한 분산되고 교차된 연습이 특수한 정규화나 메모리 재생 메커니즘 없이도 기억 상실을 줄일 수 있는가?

주요 결과

• 전행 촉진은 이전에 학습한 작업의 수가 증가할수록 커진다: 네트워크가 도메인 전문성을 축적할수록 새로운 작업을 더 빨리 학습한다—이것은 잠재적 메타학습 능력의 유도를 시사한다.
• 후행 간섭은 작업 수가 증가할수록 감소한다: 새로운 작업을 도입할 때 이전 작업의 성능 저하가 줄어들며, 시간이 지남에 따라 기억 안정성이 향상됨을 시사한다.
• 이전 작업의 성능 복구를 위해 필요한 재학습 노력은 반복적인 노출에 따라 크게 감소한다—이것은 분산 연습을 통한 내구성 있는 기억 형성의 증거이다.
• 학습 효율은 학습한 작업 수와 각 작업에 대한 훈련 노출의 양에 대해 비율 법칙 스케일링을 따른다—이는 인간 기술 습득의 특징이다.
• 작업 2에서의 기억 상실 증가 비정상적 증가 현상은 전이 단계일 수 있으며, 가능한 한 '영-일-무한대' 원칙과 유사할 수 있다—초기 작업 쌍에서 더 높은 간섭을 보임.
• 작업 유사성 감소(예: 작업 차원 다양화)와 작업 기반 시각 처리 조절 도입은 모두 간섭을 완화시키며, 이는 감각적 독창성이 간섭 감소에 기여함을 뒷받침한다.