[논문 리뷰] Meta-Learning with Neural Tangent Kernels

Yufan Zhou, Zhenyi Wang외 3명|arXiv (Cornell University)|2021. 02. 07.

Domain Adaptation and Few-Shot Learning참고 문헌 34인용 수 4

한 줄 요약

이 논문은 신경 접선 커널(NTK)에 의해 유도되는 재생 핵 힐버트 공간(RKHS)으로 일반화된 모델 무관 메타러닝(MAML)을 위한 Meta-RKHS-I 및 Meta-RKHS-II라는 두 가지 메타러닝 알고리즘을 제안한다. 반복적인 내부 루프 적응을 닫힌 형태의 해석 가능하고 해석 가능한 정규화로 대체함으로써, 이 방법들은 더 빠른 훈련과 향상된 일반화 성능을 달성하며, Mini-ImageNet과 FC-100에서 소수의 샘플 학습, 적대적 공격에 대한 강건성, 그리고 분포 외 일반화에서 MAML 및 기준선을 능가한다.

ABSTRACT

Model Agnostic Meta-Learning (MAML) has emerged as a standard framework for meta-learning, where a meta-model is learned with the ability of fast adapting to new tasks. However, as a double-looped optimization problem, MAML needs to differentiate through the whole inner-loop optimization path for every outer-loop training step, which may lead to both computational inefficiency and sub-optimal solutions. In this paper, we generalize MAML to allow meta-learning to be defined in function spaces, and propose the first meta-learning paradigm in the Reproducing Kernel Hilbert Space (RKHS) induced by the meta-model's Neural Tangent Kernel (NTK). Within this paradigm, we introduce two meta-learning algorithms in the RKHS, which no longer need a sub-optimal iterative inner-loop adaptation as in the MAML framework. We achieve this goal by 1) replacing the adaptation with a fast-adaptive regularizer in the RKHS; and 2) solving the adaptation analytically based on the NTK theory. Extensive experimental studies demonstrate advantages of our paradigm in both efficiency and quality of solutions compared to related meta-learning algorithms. Another interesting feature of our proposed methods is that they are demonstrated to be more robust to adversarial attacks and out-of-distribution adaptation than popular baselines, as demonstrated in our experiments.

연구 동기 및 목표

• 이중 루프 최적화와 내부 루프 기울기 역전파로 인한 계산 비효율성과 최적화되지 않은 적응 문제를 해결한다.
• 훈련 및 추론 중 내부 루프 적응 단계를 조정하는 문제를 해결한다.
• 신경 접선 커널(NTK)에 의해 유도되는 재생 핵 힐버트 공간(RKHS)을 활용한 기능 공간에서의 메타러닝 프레임워크를 개발한다.
• NTK 이론을 활용해 기울기 기반 내부 루프 업데이트가 필요 없는 닫힌 형태의 비반복적 적응을 가능하게 한다.
• 기존 메타러닝 기준선 대비 적대적 공격에 대한 강건성과 분포 외 일반화 성능 향상을 달성한다.

제안 방법

• 메타모델의 신경 접선 커널(NTK)에 의해 유도되는 RKHS에서 메타러닝을 수식화함으로써 기능 공간 최적화를 가능하게 한다.
• Meta-RKHS-I는 MAML 목적함수에서 고차항을 무시한 채 내부 루프 적응을 빠른 적응형 정규화로 대체한다.
• Meta-RKHS-II는 NTK 이론을 활용해 적응 문제를 분석적으로 해결함으로써 닫힌 형태로 메타목적함수를 직접 평가할 수 있도록 한다.
• NTK를 사용해 신경망 파라미터를 RKHS의 함수로 매핑함으로써 커널 방법을 통한 효율적 최적화를 가능하게 한다.
• 기능의 매끄러움과 커널 기반 정규화를 통한 빠른 적응성을 강제함으로써 태스크 손실을 최소화하는 메타목적함수를 정의한다.
• 내부 루프 업데이트를 통한 기울기 체인을 피하기 위해 닫힌 형태의 메타목적함수를 표준 최적화 기법으로 메타모델을 훈련시킨다.

실험 결과

연구 질문

• RQ1 신경 접선 커널(NTK)에 의해 유도되는 재생 핵 힐버트 공간(RKHS)을 활용해 메타러닝을 기능 공간에서 효과적으로 재정의할 수 있는가?
• RQ2 기울기 기반 내부 루프 업데이트를 분석적이고 비반복적인 적응으로 대체할 수 있는가? 이는 훈련 효율성과 해의 품질을 향상시키는가?
• RQ3 제안된 방법은 MAML 및 그 변종 대비 소수의 샘플 분류에서 어떻게 성능을 발휘하는가?
• RQ4 제안된 방법은 적대적 공격에 대해 얼마나 강건한가? 분포 외 일반화 성능은 어떻게 향상되는가?
• RQ5 제안된 RKHS 기반 메타러닝 알고리즘과 기존 MAML 변종 간의 이론적 연결 고리는 무엇인가?

주요 결과

• Meta-RKHS-II는 Mini-ImageNet에서 5-way 5-shot 설정에서 76.32%의 정확도를 기록하여 최신 기술인 Bayesian TAML(67.36%)과 MAML(65.19%)을 능가한다.
• FC-100에서 Meta-RKHS-II는 5-way 1-shot 설정에서 49.92%의 정확도와 5-way 5-shot 설정에서 76.32%의 정확도를 기록하며, Reptile와 iMAML를 크게 앞서간다.
• Meta-RKHS-II는 PGD 적대적 공격에 대해 뛰어난 강건성을 보이며, 1-shot 및 5-shot 설정 모두에서 더 높은 정확도를 유지한다.
• 분포 외 데이터셋에 대해 더 나은 일반화 성능을 보이며, VGG-F 하위 집합에서 59.75%의 정확도와 꽃 이미지 데이터셋에서 49.92%의 정확도를 기록했다(5-way 5-shot 테스트 기준).
• Meta-RKHS-I는 다양한 적응 단계에서 Reptile를 일관되게 능가하며, 기능 기울기 노름과 태스크 특화 가까움의 중요성을 입증한다.
• 이론적 분석을 통해 Meta-RKHS-I는 고차항을 무시한 MAML과 밀접한 관련이 있음을 보이며, 그 효과성에 대한 체계적인 근거를 제공한다.