[논문 리뷰] An Adaptive Random Path Selection Approach for Incremental Learning

Jathushan Rajasegaran, Munawar Hayat외 4명|arXiv (Cornell University)|2019. 06. 03.

Domain Adaptation and Few-Shot Learning참고 문헌 36인용 수 17

한 줄 요약

이 논문은 재사용 가능한 기존 파rameter를 활용하여 망각을 줄이고 효율성을 높이며, 새로운 작업에 대해 최적의 랜덤 경로를 동적으로 선택하는 인크리멘탈 러닝 프레임워크인 Adaptive RPS-Net을 제안한다. 지식 정착, 후회, 그리고 탄성 조절기와의 통합을 통해 CIFAR-100 (+7.38%) 및 ImageNet (+10.64%)에서 최신 기술 수준의 성능을 달성하였으며, 일정 시간 내에 추론이 가능하고 계산 오버헤드가 최소화된다.

ABSTRACT

In a conventional supervised learning setting, a machine learning model has access to examples of all object classes that are desired to be recognized during the inference stage. This results in a fixed model that lacks the flexibility to adapt to new learning tasks. In practical settings, learning tasks often arrive in a sequence and the models must continually learn to increment their previously acquired knowledge. Existing incremental learning approaches fall well below the state-of-the-art cumulative models that use all training classes at once. In this paper, we propose a random path selection algorithm, called Adaptive RPS-Net, that progressively chooses optimal paths for the new tasks while encouraging parameter sharing between tasks. We introduce a new network capacity measure that enables us to automatically switch paths if the already used resources are saturated. Since the proposed path-reuse strategy ensures forward knowledge transfer, our approach is efficient and has considerably less computation overhead. As an added novelty, the proposed model integrates knowledge distillation and retrospection along with the path selection strategy to overcome catastrophic forgetting. In order to maintain an equilibrium between previous and newly acquired knowledge, we propose a simple controller to dynamically balance the model plasticity. Through extensive experiments, we demonstrate that the Adaptive RPS-Net method surpasses the state-of-the-art performance for incremental learning and by utilizing parallel computation this method can run in constant time with nearly the same efficiency as a conventional deep convolutional neural network.

연구 동기 및 목표

• 기존 작업의 성능을 유지하면서 새로운 작업을 순차적으로 학습하는 데 있어 치명적인 망각 문제를 해결하기 위해 안정성과 탄성의 균형을 유지한다.
• 효율적인 파rameter 공유와 경로 재사용을 통해 전방 및 후방 지식 전이를 가능하게 한다.
• 동적으로 네트워크 용량을 추정하고 최적의 경로를 선택하여 계산 오버헤드와 메모리 사용량을 최소화한다.
• 이전 방법에서 관찰되는 제곱형 증가와는 달리, 작업 수에 따라 선형적으로 증가하는 제한된 파rameter 예산을 유지한다.
• 재학습 없이도 병렬 학습과 추론을 지원하면서 지속적인 학습을 보장한다.

제안 방법

• Adaptive RPS-Net은 새로운 작업에 최적의 경로를 발견하기 위해 랜덤 경로 선택 전략을 사용하며, 네트워크 용량이 포화 상태에 이르면 경로를 동적으로 전환한다.
• 필요한 경우에만 경로 전환을 유도하기 위해 새로운 네트워크 용량 측정 기준을 도입하여 자원의 효율적 활용을 보장한다.
• 모델의 탄성을 동적으로 조절하는 제어 모듈을 통해 오래된 지식과 새로운 지식 간의 균형을 유지한다.
• 스택드 리스크리드 설계를 활용하여 새로운 작업을 위한 상호보완적 특징을 학습하면서 이전에 조정된 파rameter를 재사용한다.
• 지식 정착과 후회 기반 기법을 통합하여 이전 작업의 성능 유지를 지원하고 후방 전이를 가능하게 한다.
• 학습 및 추론 과정에서 병렬 계산을 지원하여 표준 CNN과 유사한 일정한 시간 효율성을 달성한다.

실험 결과

연구 질문

• RQ1 딥 러닝 모델은 순차적으로 새로운 작업을 학습하면서도 이전에 학습한 작업의 성능을 어떻게 유지할 수 있는가?
• RQ2 치명적인 망각 없이, 효율적이고 확장 가능한 방식으로 인크리멘탈 러닝을 위한 네트워크 경로를 선택하고 재사용할 수 있는 방법은 무엇인가?
• RQ3 지속적 학습 환경에서 전방 및 후방 지식 전이를 효과적으로 구현할 수 있는 방법은 무엇인가?
• RQ4 정적 또는 히우리스틱 경로 할당 방식에 비해 동적 경로 선택 전략이 정확도와 효율성 측면에서 뛰어나게 작용할 수 있는가?
• RQ5 학습 진행 상황과 네트워크 용량에 적응하는 학습 가능한 제어기를 통해 안정성-탄성 딜레마를 어떻게 해결할 수 있는가?

주요 결과

• Adaptive RPS-Net은 10개의 작업을 가진 CIFAR-100에서 60.83%의 정확도를 달성하여 이전 최신 기술 수준의 성능을 7.38% 초월한다.
• ImageNet에서는 이전 최신 기술 수준의 모델 대비 성능을 10.64% 향상시켰다.
• 단지 3개의 경로와 임계값 기반 경로 선택을 사용함으로써 CIFAR-100(10개 작업)에서 59.15%의 정확도를 달성하였으며, RPS-Net 대비 약 40%의 계산 효율성 향상을 보였다.
• 모델은 강력한 전방 전이 성능를 보이며, 마지막 작업의 경우 단 한 에포크 내에 최종 정확도의 95%를 달성했고, 이는 이전 작업의 경우 최대 20 에포크가 소요됨을 의미한다.
• 이전 작업의 성능이 새로운 작업 학습 과정에서 점차 향상됨을 관찰하여 지식 통합이 이루어지고 있음을 확인할 수 있었다.
• 이진 토너먼트 선택 기반 유전자 알고리즘과 비교했을 때, 랜덤 경로 선택은 유사한 정확도(96.52% 대 96.32%)를 달성하면서도 훨씬 낮은 계산 비용을 기록했다.