[논문 리뷰] Learning Unsupervised Learning Rules

Luke Metz, Niru Maheswaranathan외 2명|arXiv (Cornell University)|2018. 03. 31.

Domain Adaptation and Few-Shot Learning참고 문헌 40인용 수 40

한 줄 요약

이 논문은 후행 반감성 분류 성능을 직접 최적화하는 비지도 학습 규칙—특히 생물학적으로 타당한, 뉴런 국소적 가중치 갱신 규칙—을 메타학습하는 것을 제안한다. 이 방법은 아키텍처, 데이터 모odal리티(이미지에서 텍스트로), 입력 순서 변화에 걸쳐 일반화되며, 일반적인 비지도 사전학습 방법보다 종종 뛰어난 성능을 보인다.

ABSTRACT

A major goal of unsupervised learning is to discover data representations that are useful for subsequent tasks, without access to supervised labels during training. Typically, this goal is approached by minimizing a surrogate objective, such as the negative log likelihood of a generative model, with the hope that representations useful for subsequent tasks will arise as a side effect. In this work, we propose instead to directly target a later desired task by meta-learning an unsupervised learning rule, which leads to representations useful for that task. Here, our desired task (meta-objective) is the performance of the representation on semi-supervised classification, and we meta-learn an algorithm -- an unsupervised weight update rule -- that produces representations that perform well under this meta-objective. Additionally, we constrain our unsupervised update rule to a be a biologically-motivated, neuron-local function, which enables it to generalize to novel neural network architectures. We show that the meta-learned update rule produces useful features and sometimes outperforms existing unsupervised learning techniques. We show that the meta-learned unsupervised update rule generalizes to train networks with different widths, depths, and nonlinearities. It also generalizes to train on data with randomly permuted input dimensions and even generalizes from image datasets to a text task.

연구 동기 및 목표

• 비지도 표현을 후행 반감성 분류 성능을 위해 직접 최적화함으로써, 간접 목적함수에 의존하지 않기 위해.
• 다양한 신경망 아키텍처(너비, 깊이, 비선형성의 변화 포함)에 걸쳐 일반화되는 비지도 학습 규칙을 개발하기 위해.
• 갱신 규칙을 뉴런 국소적 형태로 제약하여 생물학적 타당성을 확보함으로써, 새로운 아키텍처로의 일반화를 가능하게 하기 위해.
• 이미지 데이터를 초월해, 텍스트 작업과 입력 차원의 순서가 뒤바뀐 데이터로의 일반화를 평가하기 위해.

제안 방법

• 메타-목적함수로 후행 반감성 분류 정확도를 사용하여, 학습된 표현에서의 메타-학습된 비지도 가중치 갱신 규칙을 최적화한다.
• 갱신 규칙을 국소적 전/후 시냅스 활동에만 의존하는 미분 가능한 뉴런 국소적 함수로 공식화하여 생물학적 학습 규칙을 모방한다.
• 각 작업이 규칙을 사용해 네트워크를 사전학습하고 후행 반감성 분류 작업에서 평가하는 방식으로, 작업 분포에 대해 경량화를 통해 갱신 규칙을 훈련한다.
• 이중 최적화 프레임워크를 사용: 내부 루프는 메타학습된 규칙을 사용해 네트워크를 훈련하고, 외부 루프는 후행 성능에 기반해 규칙 파라미터를 갱신한다.
• 규칙을 다양한 너비, 깊이, 활성화 함수를 가진 네트워크에 적용하여 제로샷 일반화를 평가한다.
• 입력 차원이 무작위로 뒤바뀐 데이터와 트랜스포머 기반 인코더를 사용한 텍스트 분류 작업에 대한 일반화를 테스트한다.

실험 결과

연구 질문

• RQ1 메타학습된 비지도 갱신 규칙은 후행 반감성 분류에서 일반적인 비지도 사전학습 방법보다 성능이 뛰어나게 되는가?
• RQ2 메타학습된 규칙은 너비, 깊이, 비선형성의 차이가 있는 신경망으로 일반화되는가?
• RQ3 입력 차원의 순서가 뒤바뀐 데이터로도 규칙이 일반화되는가? 이는 입력 재정렬에 대한 강건성을 시사한다.
• RQ4 이미지 데이터에서 훈련된 규칙이 텍스트 분류 작업으로까지 전이 가능한가? 이는 다른 모달리티로의 일반화를 의미한다.
• RQ5 학습된 규칙은 생물학적으로 타당하고, 전역 기울기나 레이블 없이도 뉴런 국소적 비전역 갱신 구조에서 효과적인가?

주요 결과

• 메타학습된 비지도 갱신 규칙은 표준 비지도 사전학습 기반선 대비 후행 반감성 분류 작업에서 경쟁력 있거나 뛰어난 성능을 내는 표현을 생성한다.
• 규칙은 너비, 깊이, 비선형성의 차이가 있는 신경망으로 효과적으로 일반화되며, 아키텍처 간 강력한 제로샷 전이 능력을 보여준다.
• 입력 차원이 무작위로 뒤바뀐 경우에도 규칙의 성능이 유지되어, 입력 재정렬에 대한 강건성과 특정 데이터 구조를 초월한 일반화 능력을 시사한다.
• 이 방법은 이미지 데이터에서 텍스트 분류 작업으로 일반화되며, 텍스트 데이터에 대한 미세조정 없이도 모달리티 간 전이 능력을 보여준다.
• 생물학적으로 유도된 뉴런 국소적 갱신 규칙은 사전학습 중 전역 기울기나 레이블에 접근하지 못하더라도, 표준 비지도 방법과 비교해 유사하거나 뛰어난 성능을 달성한다.