[논문 리뷰] Representative Task Self-selection for Flexible Clustered Lifelong Learning

Gan Sun, Yang Cong외 3명|arXiv (Cornell University)|2019. 03. 06.

Domain Adaptation and Few-Shot Learning참고 문헌 35인용 수 6

한 줄 요약

이 논문은 새로운 작업 환경이 등장할 때 기존 작업 성능이 저하되지 않도록 동적으로 특성 학습 라이브러리를 유지하는 데 중점을 두고 있는 유연한 클러스터링된 수명 주기 학습 프레임워크인 FCL³을 제안한다. FCL³은 희소 오토에인코더를 통해 공유된 특성 표현을 학습하고, 대체 작업 자가선택을 통해 점진적으로 모델 지식 라이브러리를 갱신한다. 새로운 작업이 이질적임이 확인될 경우 적응적으로 새로운 대표 모델을 추가하고, 그렇지 않은 경우 공유 표현을 개선함으로써, 실제 데이터셋에서 기존의 생명 주기 학습 및 배치 기반 클러스터링된 다중작업 학습 방법보다 뛰어난 성능을 달성한다.

ABSTRACT

Consider the lifelong machine learning paradigm whose objective is to learn a sequence of tasks depending on previous experiences, e.g., knowledge library or deep network weights. However, the knowledge libraries or deep networks for most recent lifelong learning models are with prescribed size, and can degenerate the performance for both learned tasks and coming ones when facing with a new task environment (cluster). To address this challenge, we propose a novel incremental clustered lifelong learning framework with two knowledge libraries: feature learning library and model knowledge library, called Flexible Clustered Lifelong Learning (FCL3). Specifically, the feature learning library modeled by an autoencoder architecture maintains a set of representation common across all the observed tasks, and the model knowledge library can be self-selected by identifying and adding new representative models (clusters). When a new task arrives, our proposed FCL3model firstly transfers knowledge from these libraries to encode the new task, i.e.,effectively and selectively soft-assigning this new task to multiple representative models over feature learning library. Then, 1) the new task with a higher outlier probability will be judged as a new representative, and used to redefine both feature learning library and representative models over time; or 2) the new task with lower outlier probability will only refine the feature learning library. For model optimization, we cast this lifelong learning problem as an alternating direction minimization problem as a new task comes. Finally, we evaluate the proposed framework by analyzing several multi-task datasets, and the experimental results demonstrate that our FCL3 model can achieve better performance than most lifelong learning frameworks, even batch clustered multi-task learning models.

연구 동기 및 목표

• 기존 생명 주기 학습에서 고정된 크기의 지식 라이브러리로 인해 새로운 알 수 없는 작업 환경에 직면했을 때 성능 저하 문제가 발생하는 데 대한 한계를 해결하기 위해.
• 변화하는 환경에서 이전에 학습한 작업들과 새로운, 잠재적으로 관련이 없는 작업들 사이의 효과적인 지식 전이를 가능하게 하기 위해.
• 새로운 작업 환경이 등장할 때마다 대표 모델(클러스터)을 자가선택하고 점진적으로 추가할 수 있는 생명 주기 학습 시스템을 개발하기 위해.
• 모든 작업 간에 공유되는 분류에 유용한 특성 표현을 유지하면서도, 시간이 지남에 따라 모델 지식이 진화하도록 하기 위해.
• 표준 배치 기반 클러스터링된 다중작업 학습 및 최신 생명 주기 학습 프레임워크보다 더 뛰어난 성능을 달성하기 위해.

제안 방법

• FCL³은 두 가지 지식 라이브러리를 활용한다: 작업 간 공유되고 분류에 용이한 표현을 학습하기 위해 희소 오토에인코더를 사용하는 특성 학습 라이브러리.
• 새로운 작업이 이질적임(높은 이질성 확률)으로 판단될 경우, 새로운 대표 모델을 식별하고 추가함으로써 모델 지식 라이브러리를 점진적으로 갱신한다.
• 지식 전이는 모델 라이브러리 내 여러 대표 모델에 새로운 작업을 소프트 할당하고, 선택적이고 효과적인 전이를 보장하기 위해 희소성 제약 조건을 적용함으로써 달성된다.
• 프레임워크는 수명 주기 학습 문제를 교대 최소화 문제로 공식화하고, 최적화를 위해 ADMM를 사용한다.
• 이질성 탐지는 표현 공간에서 거리 기반 메트릭을 사용하여 수행되며, 새로운 작업 학습을 대표 모델 주변에서 테일러 전개를 통해 근사한다.
• 모델은 특성 표현과 모델 할당을 동시에 최적화하기 위해 교대 최적화 기법을 사용하며, 과거 지식을 유지하면서도 새로운 작업에 적응한다.

실험 결과

연구 질문

• RQ1 기존 작업 성능 저하 없이 새로운 알 수 없는 작업 환경을 수용하기 위해 생명 주기 학습 시스템이 동적으로 모델 라이브러리를 확장할 수 있는가?
• RQ2 클러스터링된 생명 주기 학습 환경에서 이전에 학습한 작업들과 새로운, 잠재적으로 관련이 없는 작업들 사이의 효과적인 지식 전이를 어떻게 달성할 수 있는가?
• RQ3 고정되거나 사전 정의된 모델 라이브러리 대비 대표 모델의 자가선택이 성능 향상에 얼마나 기여하는가?
• RQ4 희소 오토에인코더 기반의 특성 학습 라이브러리가 다양한 작업 간 일반화 및 전이 성능 향상에 어떻게 기여하는가?
• RQ5 제안된 FCL³ 프레임워크는 정규 생명 주기 학습 및 배치 기반 클러스터링된 다중작업 학습과 비교해 정확도와 적응성 측면에서 어떻게 다른가?

주요 결과

• FCL³은 School 및 Landmine을 포함한 여러 다중작업 데이터셋에서 대부분의 생명 주기 학습 프레임워크보다 뛰어난 성능을 달성한다.
• Landmine 데이터셋에서 FCL³은 AUC 79.022% ± 0.42를 기록하여 기준 방법들을 능가한다.
• School 데이터셋에서 FCL³은 RMSE 9.985 ± 0.03을 기록하여 강력한 회귀 성능을 입증한다.
• 희소 오토에인코더 아키텍처는 특성 표현을 크게 향상시키며, 디코더 없이 구현한 Ours-Rand는 성능 저하가 심각하게 나타나 이 구조의 중요성을 확인한다.
• 통합 프레임워크(Ours-woDecoder)는 이중 단계 기반의 CL3-Rand보다 뛰어나며, 종단 간 최적화의 이점을 입증한다.
• ADMM 기반 최적화는 교대 최소화 문제를 효과적으로 해결하여 다양한 작업 간 안정적이고 수렴 가능한 학습을 가능하게 한다.