[논문 리뷰] Human few-shot learning of compositional instructions

Brenden M. Lake, Tal Linzen외 1명|arXiv (Cornell University)|2019. 01. 14.

Speech and dialogue systems참고 문헌 28인용 수 27

한 줄 요약

이 논문은 허위어(가짜 단어)와 색깔 원으로 구성된 출력을 사용하는 순서에서 순서로(sequential-to-sequential, seq2seq) 프레임워크를 통해 인간의 조합적 지시어에 대한 소수 예제 학습을 조사한다. 참가자들은 단 두 개의 예시만으로도 새로운 기능적 개념을 학습하고, 새로운 입력으로까지 체계적으로 일반화하였으며, 상호 배제성, 일대일 대응, 상징적 연결이라는 세 가지 핵심 인도적 편향(inductive biases)을 보였는데, 이는 최신의 순환 신경망이 재현하지 못하는 강력한 조합성(compositionality)을 가능하게 했다.

ABSTRACT

People learn in fast and flexible ways that have not been emulated by machines. Once a person learns a new verb "dax," he or she can effortlessly understand how to "dax twice," "walk and dax," or "dax vigorously." There have been striking recent improvements in machine learning for natural language processing, yet the best algorithms require vast amounts of experience and struggle to generalize new concepts in compositional ways. To better understand these distinctively human abilities, we study the compositional skills of people through language-like instruction learning tasks. Our results show that people can learn and use novel functional concepts from very few examples (few-shot learning), successfully applying familiar functions to novel inputs. People can also compose concepts in complex ways that go beyond the provided demonstrations. Two additional experiments examined the assumptions and inductive biases that people make when solving these tasks, revealing three biases: mutual exclusivity, one-to-one mappings, and iconic concatenation. We discuss the implications for cognitive modeling and the potential for building machines with more human-like language learning capabilities.

연구 동기 및 목표

• 인간이 매우 소수의 예시에서 새로운 조합적 언어 유사 지시어를 어떻게 학습하고 일반화하는지 조사하는 것.
• 언어 학습에서 인간과 유사한 체계적 조합성을 가능하게 하는 인지적 인도적 편향을 규명하는 것.
• 현대 순환 신경망과 비교하여 인간이 소수 예제 seq2seq 지시어 학습 과제에서 성과를 내는 방식을 비교하는 것.
• 인간 학습자가 최소한의 데이터에서 일반화할 때 일관되고 체계적인 가정(예: 상호 배제성, 상징적 연결)을 적용하는지 조사하는 것.
• 이러한 인간의 편향이 seq2seq 과제에 더 인간다운, 일반화 능력이 뛰어난 기계 학습 모델을 구축하는 데 어떤 영향을 미치는지 탐색하는 것.

제안 방법

• 참가자들은 가짜 단어로 구성된 입력 시퀀스가 색깔 원으로 구성된 출력 시퀀스로 매핑되는 소수 예제 seq2seq 과제를 훈련받았다.
• 이 과제는 자연어 지식에 의존하는 것을 최소화하기 위해 새로운 기호와 추상적인 출력을 사용하여 조합적 학습을 고립시켰다.
• 실험은 참가자 간에 제어된 가짜 단어 할당과 무작위 매핑을 사용하여 일반화 가능성을 확보했다.
• 참가자들은 훈련 기간에 보지 못한 새로운 조합, 즉 더 긴 시퀀스와 기존 성분의 새로운 조합을 포함한 새로운 구성에 대해 시험을 받았다.
• 오류와 반응 패턴을 분석하여 상호 배제성, 일대일 대응, 상징적 연결과 같은 기저의 인도적 편향을 유추했다.
• 최종 실험은 이러한 편향이 데이터 노출 이전부터 존재하는지 확인하여, 학습에서 강력한 사전 조건 제약으로서의 역할을 확인했다.

실험 결과

연구 질문

• RQ1 인간은 단 두 개의 훈련 예제만으로도 새로운 조합적 지시어를 학습하고 일반화할 수 있는가?
• RQ2 소수 예제 seq2seq 지시어 학습 과제에서 인간의 일반화를 뒷받침하는 인지적 인도적 편향은 무엇인가?
• RQ3 동일한 과제에서 인간의 성과와 인도적 편향은 최신의 순환 신경망과 어떻게 비교되는가?
• RQ4 서로 배제성, 일대일 대응, 상징적 연결이 인간이 새로운 언어 유사 지시어를 해석하는 데 얼마나 영향을 미치는가?
• RQ5 이러한 인간이 학습한 편향은 seq2seq 과제를 위한 기계 학습 모델의 일반화 능력을 향상시키는 데 활용될 수 있는가?

주요 결과

• 참가자들은 새로운 조합, 예를 들어 'dax'를 'dax 두 번'으로 적용하는 것처럼, 훈련된 기능을 새로운 입력에 적용함으로써 새로운 지시어를 성공적으로 일반화하여 체계적 조합성을 보였다.
• 79.3%의 참가자가 상징적 연결 편향을 따르며, 입력 단어 각각에 대해 일관된 출력 시퀀스를 할당하면서도 입력 순서를 유지했다.
• 상징적 연결 편향을 따르는 참가자들 중 95.7%는 상호 배제성도 준수하여 각 입력 단어에 고유한 출력 시퀀스를 할당했다.
• 과제가 매우 불완전한 조건이었음에도 불구하고, 참가자들의 58.6%가 상호 배제성, 일대일 대응, 상징적 연결이라는 세 가지 인도적 편향 모두를 충족하는 반응을 보였다.
• 반면, 표준 순환 신경망은 새로운 조합(예: 훈련 시 'jump'만 봤을 때 'jump 두 번')으로의 일반화에 실패하여 현재 딥 러닝 모델의 핵심적인 한계를 드러냈다.
• 이러한 인도적 편향은 데이터에서 학습된 것이 아니라 노출 이전부터 존재했으며, 인간 언어 학습에서 강력한 사전 조건 제약으로 작용함을 시사한다.