[논문 리뷰] Meta-Learning with MAML on Trees

Jezabel Garcia, Federica Freddi외 6명|arXiv (Cornell University)|2021. 03. 08.

Topic Modeling참고 문헌 16인용 수 4

한 줄 요약

이 논문은 계층적 작업 구조—특히 언어 계통수 나무를 활용하여 소수의 샘플로도 언어 간 자연어 이해 성능을 향상시키는 모델에 종속되지 않는 메타학습 알고리즘인 TreeMAML을 제안한다. 나무 구조에 따라 클러스터 간 기울기를 통합하는 방식으로, XNLI 벤치마크에서 최신 기술 대비 3%의 정확도 향상을 달성하여 자원이 부족한 언어에 대한 전이 학습 성능을 향상시킨다.

ABSTRACT

In meta-learning, the knowledge learned from previous tasks is transferred to new ones, but this transfer only works if tasks are related. Sharing information between unrelated tasks might hurt performance, and it is unclear how to transfer knowledge across tasks with a hierarchical structure. Our research extends a model agnostic meta-learning model, MAML, by exploiting hierarchical task relationships. Our algorithm, TreeMAML, adapts the model to each task with a few gradient steps, but the adaptation follows the hierarchical tree structure: in each step, gradients are pooled across tasks clusters, and subsequent steps follow down the tree. We also implement a clustering algorithm that generates the tasks tree without previous knowledge of the task structure, allowing us to make use of implicit relationships between the tasks. We show that the new algorithm, which we term TreeMAML, performs better than MAML when the task structure is hierarchical for synthetic experiments. To study the performance of the method in real-world data, we apply this method to Natural Language Understanding, we use our algorithm to finetune Language Models taking advantage of the language phylogenetic tree. We show that TreeMAML improves the state of the art results for cross-lingual Natural Language Inference. This result is useful, since most languages in the world are under-resourced and the improvement on cross-lingual transfer allows the internationalization of NLP models. This results open the window to use this algorithm in other real-world hierarchical datasets.

연구 동기 및 목표

• 비유사하거나 계층적으로 구조화된 작업 간 지식 전이에 한계가 있는 MAML의 문제를 해결하기 위해.
• 특히 자원이 부족한 언어에 대해 소수의 샘플로도 학습 성능을 향상시키기 위해.
• 사전에 작업 관계에 대한 지식이 없이도 작업 계층을 동적으로 학습할 수 있는 방법을 개발하기 위해.
• 메타학습에 언어 계통수 구조를 통합하여 자연어 이해 분야에서 언어 간 전이 성능을 향상시키기 위해.

제안 방법

• 모델 적응 과정에서 나무 구조를 따르는 계층적 기울기 통합 메커니즘을 도입함으로써 MAML을 수정한다.
• 각 적응 단계에서 동일한 수준의 나무에서 작업 클러스터 간 기울기가 통합된 후 더 세분화된 작업으로 내려간다.
• 사전 지식 없이 작업 유사도에서 유도된 OTD 기반의 수정된 계층적 클러스터링 알고리즘을 사용해 작업 나무 구조를 데이터 기반으로 동적으로 학습한다.
• 고정된 나무(예: 언어 계통수)와 학습된 나무를 모두 지원하여 실제 응용에 유연성을 제공한다.
• 모델에 종속되지 않으며, 어떤 기반 네트워크나 손실 함수와도 호환되어 광범위하게 적용 가능하다.
• 기존 연구에서 영감을 얻은 기울기 기반 유사도 측정 방법을 사용해 작업 관계를 추론한다.

실험 결과

연구 질문

• RQ1 기존 MAML과 비교해 계층적 작업 구조가 소수의 샘플로도 메타학습 성능을 향상시키는가?
• RQ2 고정된 언어 계통수를 사용할 때와 동적으로 학습된 작업 계층을 사용할 때 TreeMAML의 성능는 어떻게 달라지는가?
• RQ3 언어 가문 등의 언어학적 관계를 통합할 경우 자연어 처리 분야에서 언어 간 전이 성능는 얼마나 향상되는가?
• RQ4 TreeMAML은 언어 간 자연어 추론에서 최신 기술인 XMAML을 초월할 수 있는가?
• RQ5 작업 계층이 사전 정의된 것이 아니라 데이터 기반으로 학습될 경우, 자원이 부족한 언어에 대해 알고리즘이 더 잘 일반화되는가?

주요 결과

• 합성 다차원 회귀 작업에서 TreeMAML는 표준 MAML 및 기준 모델보다 성능이 뛰어나 평균 제곱오차를 절반으로 줄였다.
• XNLI 벤치마크에서 TreeMAML는 이전 최고 성능 기술인 XMAML 대비 3%의 정확도 향상을 달성했다.
• 고정된 TreeMAML는 모든 언어에서 MAML보다 우수한 성능를 보였으며, 특히 자원이 부족한 언어에서 가장 큰 향상을 보였다.
• 대부분의 경우 학습된 TreeMAML는 고정된 TreeMAML와 유사하거나 더 우수한 성능를 보였으며, 이는 사전 정의된 계통수 외의 유용한 작업 관계를 발견할 수 있음을 시사한다.
• 그레크어나 태국어와 같은 일부 언어에서는 나무 구조가 과도하게 단순화되거나 정확도가 떨어져 성능이 떨어지는 경우가 있었으며, 이는 방법의 나무 품질에 민감함을 보여준다.
• 결과는 TreeMAML가 사전 정의된 언어 분류 외에도 장르나 어휘 유출 같은 비계통수적 유사성을 활용해 전이 성능를 향상시킬 수 있음을 시사한다.