[논문 리뷰] Online Structured Meta-learning

Huaxiu Yao, Yingbo Zhou외 4명|arXiv (Cornell University)|2020. 10. 22.

Domain Adaptation and Few-Shot Learning참고 문헌 44인용 수 8

한 줄 요약

이 논문은 이질적인 작업 분포 하에서의 온라인 메타학습을 위해 유연하고 적응적이며 해석 가능한 온라인 메타학습을 가능하게 하는 프레임워크인 온라인 구조적 메타학습(Onlne Structured Meta-learning, OSML)을 제안한다. OSML은 메타학습자(메타-러닝)를 지식 블록의 계층적 그래프로 모델링하여, 전역적으로 공유되는 메타학습자에 비해 비정상적이고 복잡한 환경에서의 빠른 적응과 일반화 성능을 향상시킨다. 특히, 메타지식 경로를 동적으로 구성하고 관련 블록을 업데이트함으로써 성능을 향상시킨다.

ABSTRACT

Learning quickly is of great importance for machine intelligence deployed in online platforms. With the capability of transferring knowledge from learned tasks, meta-learning has shown its effectiveness in online scenarios by continuously updating the model with the learned prior. However, current online meta-learning algorithms are limited to learn a globally-shared meta-learner, which may lead to sub-optimal results when the tasks contain heterogeneous information that are distinct by nature and difficult to share. We overcome this limitation by proposing an online structured meta-learning (OSML) framework. Inspired by the knowledge organization of human and hierarchical feature representation, OSML explicitly disentangles the meta-learner as a meta-hierarchical graph with different knowledge blocks. When a new task is encountered, it constructs a meta-knowledge pathway by either utilizing the most relevant knowledge blocks or exploring new blocks. Through the meta-knowledge pathway, the model is able to quickly adapt to the new task. In addition, new knowledge is further incorporated into the selected blocks. Experiments on three datasets demonstrate the effectiveness and interpretability of our proposed framework in the context of both homogeneous and heterogeneous tasks.

연구 동기 및 목표

• 이질적인 작업 분포 하에서 온라인 메타학습에서 전역적으로 공유되는 메타학습자의 한계를 해결하기 위해.
• 새로운, 잠재적으로 이질적인 작업들에 대해 지속적인 지식 축적과 모델 확장 기능을 가능하게 하기 위해.
• 구조화된, 작업에 관련된 지식 블록을 활용하여 빠른 적응과 일반화 성능을 향상시키기 위해.
• 작업 간의 관계를 포착하는 메타-계층적 그래프를 통해 모델의 해석 가능성 향상시키기 위해.
• 이질적인 작업에 대해 완전히 새로운 메타학습자를 생성하는 것과는 대비되는, 민첩하고 확장 가능한 대안을 제공하기 위해.

제안 방법

• 메타학습자는 다수의 지식 블록으로 구성된 계층적 그래프로 구성되며, 각 블록은 특정 유형의 구조화된 사전 지식(예: 유사한 작업 배경)을 나타낸다.
• 각 도착하는 작업에 대해, 새로운 작업에 대한 관련성에 기반해 가장 관련성이 높은 지식 블록들을 선택하여 메타지식 경로를 구성한다.
• 도착한 작업이 기존 작업들과 충분히 이질적인 경우, 동적으로 새로운 지식 블록을 생성한다.
• 작업을 해결한 후, 선택된 지식 블록들은 메타업데이트를 통해 새로운 정보를 통합하고 향후 적응 성능를 향상시킨다.
• 이 프레임워크는 기존에 알려진 관련 블록을 활용하는 것과 새로운 블록을 탐색하는 것을 동시에 지원하여, 비정상적 분포 하에서도 지속적인 학습을 가능하게 한다.
• 작업 표현 네트워크에 의존하지 않기 때문에, 온라인 및 순차적 학습에 실용적이다.

실험 결과

연구 질문

• RQ1 구조화된 메타학습자가 이질적인 작업 분포 하에서 온라인 메타학습에서 전역적으로 공유되는 메타학습자보다 뛰어난 성능을 내는가?
• RQ2 온라인 학습 환경에서 다양한 비정상적 작업 간에 지식을 효과적으로 조직하고 재사용할 수 있는가?
• RQ3 계층적 블록 구조가 온라인 메타학습에서 모델의 해석 가능성과 일반화 성능을 향상시키는가?
• RQ4 지식 블록의 동적 생성 및 업데이트가 성능와 확장성에 어떤 영향을 미치는가?
• RQ5 메타지식 경로 메커니즘이 최소한의 작업 데이터로도 신속한 적응을 가능하게 하는가?

주요 결과

• OSML는 기존의 온라인 메타학습 베이스라인에 비해 동일한 및 이질적인 소수 샘플 학습 벤치마크에서 뛰어난 성능을 기록한다.
• 동적으로 구성된 메타지식 경로를 통해 작업별로 구조화된 사전 지식을 활용함으로써 일반화 성능 향상과 더 빠른 적응 성능를 입증하였다.
• 메타-계층적 그래프 구조는 작업과 지식 블록 간의 관계를 명시적으로 포착함으로써 모델의 해석 가능성을 향상시켰다.
• 이질적인 작업에 대해 완전히 새로운 메타학습자를 생성하는 방법에 비해, OSML는 모델 크기를 줄이고 유연성을 높였다.
• 실증 결과에 따르면, OSML는 지속적으로 지식 블록을 업데이트하고 확장함으로써 비정상적이고 복잡한 작업 분포를 효과적으로 처리하였다.
• 작업이 서로 다른 모드를 보이거나 이질적인 특성을 띠더라도 OSML는 고정된 메타학습자보다 뛰어난 성능를 유지하였다.