[논문 리뷰] muNet: Evolving Pretrained Deep Neural Networks into Scalable Auto-tuning Multitask Systems

Andréa Gesmundo, Jeff Dean|arXiv (Cornell University)|2022. 05. 22.

Domain Adaptation and Few-Shot Learning인용 수 5

한 줄 요약

muNet는 사전 훈련된 깊은 신경망을 재사용 가능한 모듈형 구성 요소로 계층을 재사용함으로써 확장성 있고 자동 튜닝 가능한 다중 작업 시스템으로 진화시키는 진화적 프레임워크를 제안한다. 이는 임의의 작업 간 공동 학습을 가능하게 하면서 치명적인 잊음과 부정적 전이를 방지한다. 10개의 이미지 분류 작업에서 표준 미세조정 대비 평균 정확도가 2.39% 향상되었고, 작업당 파라미터 수는 47% 감소하였다.

ABSTRACT

Most uses of machine learning today involve training a model from scratch for a particular task, or sometimes starting with a model pretrained on a related task and then fine-tuning on a downstream task. Both approaches offer limited knowledge transfer between different tasks, time-consuming human-driven customization to individual tasks and high computational costs especially when starting from randomly initialized models. We propose a method that uses the layers of a pretrained deep neural network as building blocks to construct an ML system that can jointly solve an arbitrary number of tasks. The resulting system can leverage cross tasks knowledge transfer, while being immune from common drawbacks of multitask approaches such as catastrophic forgetting, gradients interference and negative transfer. We define an evolutionary approach designed to jointly select the prior knowledge relevant for each task, choose the subset of the model parameters to train and dynamically auto-tune its hyperparameters. Furthermore, a novel scale control method is employed to achieve quality/size trade-offs that outperform common fine-tuning techniques. Compared with standard fine-tuning on a benchmark of 10 diverse image classification tasks, the proposed model improves the average accuracy by 2.39% while using 47% less parameters per task.

연구 동기 및 목표

• 표준 미세조정과 단일 작업 학습의 비효율성과 제한된 지식 전이 문제를 해결하기 위해 다중 작업 간 공동 학습을 가능하게 하기.
• 모듈형이고 분할된 지식 재사용을 통해 다중 작업 학습에서 치명적인 잊음, 기울기 간섭, 그리고 부정적 전이를 제거하기.
• 진화 알고리즘을 통해 수동 메타파rameter 조정 없이 탐색과 이용의 균형을 동적으로 조정함으로써 하이퍼파rameter 튜닝과 아키텍처 탐색을 자동화하기.
• 새로운 작업과 지식을 최소한의 파라미터 오버헤드로 추가할 수 있는 확장성 있고 점진적인 모델 진화를 가능하게 하기.
• 전문가가 튜닝한 모델이 필요로 하는 양을 줄이고 단일 진화하는 시스템에 대한 공동 기여를 가능하게 하여 고성능 머신러닝에 대한 접근성을 넓히기.

제안 방법

• muNet는 사전 훈련된 깊은 신경망의 계층을 재사용하여 모듈형 빌딩 블록으로 활용함으로써 다중 작업 모델을 구성한다. 이는 작업별 지식를 봉인하고 공유할 수 있도록 한다.
• 진화 알고리즘이 사전 지식 선택, 파라미터 부분집합 선택, 하이퍼파rameter 설정을 동시에 탐색하며, 탐색/이용 균형을 동적으로 조정한다.
• 네 가지 변형 유형—계층 복제, 계층 재사용, 하이퍼파라미터 변형, 파라미터 정규화—이 진화 과정에서 새로운 모델 구성 요건을 생성하기 위해 적용된다.
• 하이퍼파라미터는 고정된 값이 아닌 동적 스케줄을 통해 자동 튜닝되며, 지수 감쇠 샘플링을 사용하여 탐색 공간에 암묵적인 사전 분포를 정의한다.
• 스케일 제어 메커니즘이 작업당 모델 크기를 조절함으로써 품질/크기 간의 트레이드오프를 가능하게 하여 표준 미세조정보다 파라미터 효율성에서 뛰어난 성능을 발휘한다.
• 이 방법은 어떤 사전 훈련된 모델이라도 시작점으로 사용할 수 있으며, 전이 학습을 통해 수렴 속도를 가속화하고 효율성을 향상시킨다.

실험 결과

연구 질문

• RQ1 진화적 프레임워크는 다중 작업 학습 시스템에서 지식 선택, 파라미터 부분집합 선택, 하이퍼파라미터 튜닝을 동시에 최적화할 수 있는가?
• RQ2 이러한 시스템은 다양한 작업 간 지식 재사용을 가능하게 하면서도 치명적인 잊음과 부정적 전이를 피할 수 있는가?
• RQ3 표준 미세조정 대비 작업당 파라미터 오버헤드를 얼마나 줄일 수 있는가?
• RQ4 진화를 통한 동적 하이퍼파라미터 스케줄링이 다중 작업 환경에서 정적 하이퍼파라미터 튜닝을 능가하는가?
• RQ5 새로운 작업을 점진적으로 추가할 때 성능과 효율성이 어떻게 확장되는가?

주요 결과

• muNet는 10개의 다양한 이미지 분류 작업에서 표준 미세조정 대비 평균 정확도를 2.39% 향상시켰다.
• 더 높은 정확도를 달성하면서도 작업당 파라미터 수를 47% 감소시켜 뛰어난 파라미터 효율성을 입증했다.
• 작업별 지식이 분할되어 보존되므로 시스템은 치명적인 잊음을 견뎌내며 점진적 학습 동안 지속적으로 유지된다.
• 진화적 자동 튜닝 과정은 메타파라미터 수동 조정 없이 탐색/이용 균형을 동적으로 조정한다.
• 스케일 제어 메커니즘이 효과적인 품질/크기 트레이드오프를 가능하게 하여 정확도와 모델의 압축성 모두에서 표준 미세조정을 능가한다.
• 최소한의 파라미터 증가로 새로운 작업을 점진적으로 추가할 수 있어 확장성 있고 공동 기여 가능한 모델 진화를 가능하게 한다.