[논문 리뷰] Transforming task representations to allow deep learning models to perform novel tasks

Andrew K. Lampinen, James L. McClelland|arXiv (Cornell University)|2020. 05. 08.

Domain Adaptation and Few-Shot Learning인용 수 4

한 줄 요약

이 논문은 학습된 작업 표현을 고차원 메타작업으로 변환함으로써 딥러닝 모델이 새로운 작업을 데이터 없이도 제로샷으로 수행할 수 있도록 하는 메타매핑 프레임워크를 제안한다. 기존 작업과 새로운 작업 간의 관계를 활용함으로써, 어떤 작업 전용 데이터 없이도 미사용 작업에서 80–90%의 성능를 달성하며, 이는 후속 학습을 크게 가속화하고 오차를 감소시킨다.

ABSTRACT

An important aspect of intelligence is the ability to adapt to a novel task without any direct experience (zero-shot), based on its relationship to previous tasks. Humans can exhibit this cognitive flexibility. By contrast, deep-learning models that achieve superhuman performance in specific tasks generally fail to adapt to even slight task alterations. To address this, we propose a general computational framework for adapting to novel tasks based on their relationship to prior tasks. We begin by learning vector representations of tasks. To adapt to new tasks, we propose meta-mappings, higher-order tasks that transform basic task representations. We demonstrate this framework across a wide variety of tasks and computational paradigms, ranging from regression to image classification and reinforcement learning. We compare to both human adaptability, and language-based approaches to zero-shot learning. Across these domains, meta-mapping is successful, often achieving 80-90% performance, without any data, on a novel task that directly contradicts its prior experience. We further show that using meta-mapping as a starting point can dramatically accelerate later learning on a new task, and reduce learning time and cumulative error substantially. Our results provide insight into a possible computational basis of intelligent adaptability, and offer a possible framework for modeling cognitive flexibility and building more flexible artificial intelligence.

연구 동기 및 목표

• 직접 경험 없이도 새로운 작업에 적응하는 데에 한계가 있는 딥러닝 모델의 문제를 해결하고, 인간과 유사한 인지적 유연성을 모방한다.
• 다양한 작업과 학습 철학에 걸쳐 제로샷 적응을 가능하게 하는 일반적인 계산 프레임워크를 개발한다.
• 작업 표현의 고차원 메타매핑이 기존 경험과 모순되는 작업으로의 효과적 일반화를 가능하게 하는지 탐구한다.
• 프레임워크가 새로운 작업에서 피니튜닝할 때 학습을 가속화하고 누적 오차를 감소시키는 능력을 평가한다.
• 인공지능 시스템에서 지능적인 적응 능력의 계산적 기반을 제공한다.

제안 방법

• 작업의 의미적 및 구조적 성질를 코딩하기 위해 작업의 벡터 표현을 학습한다.
• 기존 작업의 표현을 새로운 작업의 표현으로 매핑하는 고차원 변환으로서의 메타매핑을 정의한다.
• 새로운 작업에 대한 데이터가 전혀 필요 없이 메타매핑을 적용하여 예측을 생성한다.
• 범위가 넓은 적용성을 확보하기 위해 회귀, 이미지 분류, 강화 학습 작업 전반에서 프레임워크를 평가한다.
• 메타매핑을 피니튜닝의 초기화로 사용함으로써, 후속 학습에서 수렴 속도를 가속화하고 오차를 감소시킨다.
• 인간의 제로샷 일반화 및 언어 기반 제로샷 학습 접근 방식과의 성능를 비교한다.

실험 결과

연구 질문

• RQ1 딥러닝 모델이 이전 작업과의 관계를 활용하여 어떤 작업 전용 데이터 없이도 새로운 작업으로 일반화할 수 있는가?
• RQ2 기존 경험과 직접적으로 모순되는 작업에서 메타매핑의 효과는 어떠한가?
• RQ3 메타매핑을 초기화로 사용할 경우, 후속 작업 학습에서 학습 속도 향상과 오차 감소 정도는 어느 정도인가?
• RQ4 이 프레임워크의 성능는 인간의 적응 능력과 언어 기반 제로샷 방법과 비교해 어떻게 되는가?
• RQ5 이 방법은 인공지능에서 인지적 유연성의 일반적인 계산 메커니즘으로 기능할 수 있는가?

주요 결과

• 메타매핑 프레임워크는 작업 전용 데이터 없이도 새로운 작업에서 80–90%의 성능를 달성하며, 강력한 제로샷 일반화 능력을 보여준다.
• 이 방법은 기존 경험과 직접적으로 모순되는 작업으로의 적응을 성공적으로 가능하게 하여 강력한 관계 기반 추론 능력을 보여준다.
• 메타매핑을 초기화로 사용함으로써 새로운 작업에서의 학습 속도가 크게 향상되고, 훈련 시간과 누적 오차가 감소한다.
• 프레임워크는 회귀, 이미지 분류, 강화 학습를 포함한 다양한 도메인으로 일반화된다.
• 성능는 인간의 제로샷 적응 능력과 경쟁 가능하며, 언어 기반 제로샷 학습 접근 방식을 뛰어넘거나 동등하게 유지한다.
• 결과는 메타매핑이 인공지능에서 지능적인 적응 능력을 모델링하기 위한 실현 가능한 계산 기반을 제공함을 시사한다.