[논문 리뷰] Function Contrastive Learning of Transferable Meta-Representations

Muhammad Waleed Gondal, Shruti Joshi외 4명|arXiv (Cornell University)|2020. 10. 14.

Domain Adaptation and Few-Shot Learning참고 문헌 36인용 수 4

한 줄 요약

이 논문은 함수의 순서가 정해지지 않은 부분 관찰에 대해 대비 목적으로 사용되는 함수 대비 표현 학습(FCRL)을 제안한다. FCRL은 메타-표현 학습을 위한 분리된 인코더-디코더 프레임워크로, 동일한 함수에서 유래한 컨텍스트 세트와 다른 함수에서 유래한 컨텍스트 세트를 대비함으로써 강력하고 이식 가능한 메타-표현을 학습한다. 이로 인해, 특히 시각 및 제어 작업에서, 종단 간 학습된 기준 모델보다 더 뛰어난 소수 샘플 예측 성능과 노이즈에 대한 강건성을 확보한다.

ABSTRACT

Meta-learning algorithms adapt quickly to new tasks that are drawn from the same task distribution as the training tasks. The mechanism leading to fast adaptation is the conditioning of a downstream predictive model on the inferred representation of the task's underlying data generative process, or \emph{function}. This \emph{meta-representation}, which is computed from a few observed examples of the underlying function, is learned jointly with the predictive model. In this work, we study the implications of this joint training on the transferability of the meta-representations. Our goal is to learn meta-representations that are robust to noise in the data and facilitate solving a wide range of downstream tasks that share the same underlying functions. To this end, we propose a decoupled encoder-decoder approach to supervised meta-learning, where the encoder is trained with a contrastive objective to find a good representation of the underlying function. In particular, our training scheme is driven by the self-supervision signal indicating whether two sets of examples stem from the same function. Our experiments on a number of synthetic and real-world datasets show that the representations we obtain outperform strong baselines in terms of downstream performance and noise robustness, even when these baselines are trained in an end-to-end manner.

연구 동기 및 목표

• 소수 샘플 학습에서 메타-표현의 이식 가능성과 노이즈 강건성을 향상시키기 위해.
• 메타학습에서 통합된 인코더-디코더 학습의 한계를 해결하기 위해, 이는 감독 신호 붕괴와 작업 특화된 노이즈에 대한 과적합을 유도할 수 있다.
• 자기 지도 학습을 통해 메타-표현 학습을 최종 예측 작업에서 분리하기 위해.
• 동일한 메타-표현이 다양한 최종 작업에 일반화될 수 있도록 하기 위해.
• 필수적인 기능적 구조를 포착하면서 불필요한 노이즈와 배경 특징을 무시하는 표현을 개발하기 위해.

제안 방법

• 이 방법은 동일한 기저 함수에서 유래한 컨텍스트 세트에 대해 유사한 표현을 생성하도록 인코더를 훈련하기 위해 대비 학습 목표를 사용한다.
• 양성 쌍은 동일한 함수의 서로 다른 부분 집합을 샘플링하여 형성하고, 음성 쌍은 다른 함수에서 유래한 컨텍스트 세트로 형성한다.
• 대비 손실는 훈련을 안정화시키기 위해 모멘텀 인코더와 모멘텀 큐를 사용하여 계산된다.
• 사전 훈련된 인코더는 추론 시 별도의 작업 특화 디코더를 조건화하기 위해 메타-표현을 생성하는 데 사용된다.
• 이 프레임워크는 시각 및 강화 학습 작업을 포함한 합성 및 실제 데이터셋에 적용된다.
• 재구성 기반 목표를 피하고, 일반화를 향상시키기 위해 기능 유사성에 초점을 맞춘다.

실험 결과

연구 질문

• RQ1 컨텍스트 세트에 대한 대비 목표가 다양한 최종 작업 간 메타-표현의 이식 가능성 향상에 기여하는가?
• RQ2 메타-표현 학습을 최종 예측 작업에서 분리함으로써 데이터 노이즈에 대한 강건성이 향상되는가?
• RQ3 FCRL은 소수 샘플 회귀 및 분류 작업에서 종단 간 메타학습 기준 모델보다 어떻게 비교되는가?
• RQ4 FCRL 표현은 시각 제어 작업에서 데이터 효율적인 정책 학습을 지원할 수 있는가?
• RQ5 재구성 손실가 없이, 관련 기능적 특징가 배경 노이즈로부터 더 잘 분리되는가?

주요 결과

• FCRL은 종단 간 학습된 강력한 기준 모델들조차도 전체 감독 학습을 통해 훈련된 경우에도, 최종 소수 샘플 예측 작업에서 더 뛰어난 성능을 보였다.
• 특히 정적 배경을 간과하면서도 물체의 형태와 같은 구조적 세부 정보를 유지하는 데 있어 노이즈에 대한 강건성이 뛰어나다.
• 시각 제어 작업에서, FCRL 기반 정책은 GQN 기반 정책보다 유의미하게 뛰어난 성능을 보이며 데이터 효율성이 향상됨을 입증했다.
• 대비 사전 훈련을 통해 인코더를 훈련함으로써, 통합 학습보다 더 잘 분리된 표현과 일반화 능력을 가진 표현을 얻을 수 있었다.
• 분리된 훈련 체계 덕분에, 동일한 사전 훈련된 인코더를 재학습 없이도 여러 최종 작업에 대해 효율적으로 미세조정할 수 있었다.
• 이 방법은 합성 함수와 실제 데이터셋(이미지 생성 및 시각 질문 응답 포함) 모두에서 뛰어난 성능을 보였다.