[논문 리뷰] Task-similarity Aware Meta-learning through Nonparametric Kernel Regression

Arun Venkitaraman, Anders Hansson외 1명|arXiv (Cornell University)|2020. 06. 12.

Domain Adaptation and Few-Shot Learning참고 문헌 32인용 수 7

한 줄 요약

이 논문은 재생 커널 힐버트 공간(RKHS) 내에서 비모수적 커널 회귀를 사용하여 작업 유사성을 명시적으로 모델링하는 새로운 메타러닝 프레임워크인 Task-similarity Aware Nonparametric Meta-Learning(TANML)을 제안한다. 작업 기술자와 커널 함수를 통해 유사성을 측정함으로써 TANML은 MAML과 Meta-SGD보다 소수의 샘플을 가진 회귀 작업에서 더 뛰어난 성능을 보이며, 특히 작업 수가 적거나 이상치가 포함된 경우에 메타러닝의 강건성을 향상시킴을 입증한다.

ABSTRACT

This paper investigates the use of nonparametric kernel-regression to obtain a tasksimilarity aware meta-learning algorithm. Our hypothesis is that the use of tasksimilarity helps meta-learning when the available tasks are limited and may contain outlier/ dissimilar tasks. While existing meta-learning approaches implicitly assume the tasks as being similar, it is generally unclear how this task-similarity could be quantified and used in the learning. As a result, most popular metalearning approaches do not actively use the similarity/dissimilarity between the tasks, but rely on availability of huge number of tasks for their working. Our contribution is a novel framework for meta-learning that explicitly uses task-similarity in the form of kernels and an associated meta-learning algorithm. We model the task-specific parameters to belong to a reproducing kernel Hilbert space where the kernel function captures the similarity across tasks. The proposed algorithm iteratively learns a meta-parameter which is used to assign a task-specific descriptor for every task. The task descriptors are then used to quantify the task-similarity through the kernel function. We show how our approach conceptually generalizes the popular meta-learning approaches of model-agnostic meta-learning (MAML) and Meta-stochastic gradient descent (Meta-SGD) approaches. Numerical experiments with regression tasks show that our algorithm outperforms these approaches when the number of tasks is limited, even in the presence of outlier or dissimilar tasks. This supports our hypothesis that task-similarity helps improve the metalearning performance in task-limited and adverse settings.

연구 동기 및 목표

• 사용 가능한 작업 수가 적거나 상이한 작업이 존재하는 환경에서 작업 유사성의 명시적 모델링이 메타러닝 성능 향상에 기여하는지 조사하기 위해.
• 기존 메타러닝 방법들이 유사성을 암묵적으로 가정하지만 이를 정량화하지 않는 한계를 해결하기 위해.
• 커널 기반 비모수적 회귀를 통해 작업 유사성을 메타러닝에 통합하는 일반화 가능한 프레임워크를 개발하기 위해.
• 학습 작업 수가 적거나 이상치를 포함하는 경우에 작업 유사성 인식이 강건성과 성능 향상에 기여하는지 입증하기 위해.
• 유명한 메타러닝 알고리즘(MAML, Meta-SGD)과 재생 커널 힐버트 공간(RKHS) 내 커널 회귀 간의 개념적 연결을 수립하기 위해.

제안 방법

• 작업 특화 파라미터를 재생 커널 힐버트 공간(RKHS)의 원소로 모델링하며, 여기서 커널 함수가 작업 유사성을 표현한다.
• 각 작업은 커널 함수를 통해 유사성을 계산하는 데 사용되는 작업 기술자 벡터를 할당받는다. 이를 통해 작업 간 비모수적 회귀가 가능해진다.
• 알고리즘은 메타파rameter를 반복적으로 학습하고, 학습된 작업들에 대한 유사성 기반으로 새로운 작업에 대한 메타러너를 적응시키기 위해 커널 회귀를 사용한다.
• 각 신경망 레이어에 대해 별도의 적응 함수를 사용하여 작업 특화 파라미터를 계층별로 업데이트함으로써 고차원 파라미터의 지배를 방지한다.
• 가우시안 커널 및 코시누스 커널 함수를 모두 지원하며, 후자의 경우 초모수가 없어 성능이 더 뛰어나다.
• MAML과 Meta-SGD를 RKHS 내 선형/커널 회귀의 관점에서 재구성함으로써 일반화되며, 명시적인 유사성 인식 적응을 가능하게 한다.

실험 결과

연구 질문

• RQ1 사용 가능한 작업 수가 제한된 경우에 작업 유사성의 명시적 모델링이 메타러닝 성능 향상에 기여하는가?
• RQ2 커널 함수를 통한 작업 유사성 정량화가 이상치나 상이한 작업이 존재하는 환경에서 메타러닝의 강건성에 어떤 영향을 미치는가?
• RQ3 MAML과 Meta-SGD 메타러닝 프레임워크가 커널 기반 비모수적 회귀 프레임워크 아래에서 개념적으로 통합될 수 있는가?
• RQ4 커널 함수의 선택(Gaussian vs. cosine)이 작업 유사성 인식 메타러닝 알고리즘의 성능에 영향을 미치는가?
• RQ5 RKHS 내 비모수적 커널 회귀 접근이 암묵적 유사성 가정보다 더 강건하고 일반화 가능한 메타러닝 프레임워크를 제공할 수 있는가?

주요 결과

• TANML은 실험에서 이상치가 10~20% 포함된 경우, MAML과 Meta-SGD보다 테스트 예측 성능에서 상당히 뛰어나, 정규화된 평균 제곱 오차(NMSE) 값이 최대 50% 낮아졌다.
• 실험 2a(진폭 변화): TANML이 코시누스 커널을 사용할 경우 T_tr = 256일 때 NMSE가 0.37을 기록했으며, MAML는 0.83, Meta-SGD는 0.92였다.
• 실험 2b(주기 변화): TANML이 코시누스 커널을 사용할 경우 T_tr = 256일 때 NMSE가 0.30을 기록했으며, MAML는 0.89, Meta-SGD는 1.50였다.
• TANML의 성능은 작업 수가 증가함에 따라 향상되었으며, 실험 2a에서 T_tr = 256일 때 NMSE 0.37에서 0.35로 감소하고, T_tr = 512일 때는 0.26로 감소하여 확장성 잠재력을 보였다.
• 코시누스 커널이 가우시안 커널보다 성능이 뛰어났으며, 이는 분산 초모수의 부재로 인해 파rameter 선택에 민감도가 낮아지기 때문이다.
• TANML은 MAML과 Meta-SGD를 커널 기반 RKHS 공식화에 통합함으로써 성공적으로 일반화하였으며, 명시적인 작업 유사성 인식을 가능하게 하였다.