[논문 리뷰] Meta-Learning Multi-task Communication

Pengfei Liu, Xuanjing Huang|arXiv (Cornell University)|2018. 10. 23.

Domain Adaptation and Few-Shot Learning참고 문헌 25인용 수 7

한 줄 요약

이 논문은 다중 작업 학습에서 작업 간에 은닉 표현과 기울기를 교환할 수 있도록 해, 공유 공간 내의 특징 엔트레인먼트를 줄이는 메타학습 다중작업 통신 프레임워크를 제안한다. 기울기 전달을 통해 파라미터 일관성과 공유 표현의 순수성을 향상시켜, 자연어 처리 및 비전 벤치마크에서 내작업 및 외작업 설정 모두에서 뛰어난 성능을 달성한다.

ABSTRACT

In this paper, we describe a general framework: Parameters Read-Write Networks (PRaWNs) to systematically analyze current neural models for multi-task learning, in which we find that existing models expect to disentangle features into different spaces while features learned in practice are still entangled in shared space, leaving potential hazards for other training or unseen tasks. We propose to alleviate this problem by incorporating an inductive bias into the process of multi-task learning, that each task can keep informed of not only the knowledge stored in other tasks but the way how other tasks maintain their knowledge. In practice, we achieve above inductive bias by allowing different tasks to communicate by passing both hidden variables and gradients explicitly. Experimentally, we evaluate proposed methods on three groups of tasks and two types of settings ( extsc{in-task} and extsc{out-of-task}). Quantitative and qualitative results show their effectiveness.

연구 동기 및 목표

• 이론적으로는 분리되어야 할 공유 표현이 여전히 작업별 특징과 엔트레인먼트되어 있는 '가짜로 공유하는 문제'를 해결하기 위해.
• 기존의 다중 작업 학습 모델을 통합하고 분석할 수 있는 일반적인 프레임워크인 파라미터 읽기-쓰기 네트워크(Parameters Read-Write Networks, PRaWNs)를 개발하기 위해.
• 작업들이 공유 지식을 배우는 것뿐만 아니라, 다른 작업들이 지식을 어떻게 유지하는지 명시적인 기울기 교환을 통해 유도적 편향을 도입하기 위해.
• 작업 간 일관된 파라미터 업데이트를 강제하여 내작업 및 외작업 설정 모두에서 모델의 일반화 능력과 강건성을 향상시키기 위해.

제안 방법

• 기존의 다중 작업 학습 아키텍처를 모델링하고 분석하기 위한 통합 프레임워크로 파라미터 읽기-쓰기 네트워크(Parameters Read-Write Networks, PRaWNs)를 제안한다.
• 전방 및 역방향 전파 동안 작업 간 명시적인 기울기 전달을 도입하여, 파라미터 업데이트 방향에 대한 상호 작업 인식을 가능하게 한다.
• 두 가지 통신 메커니즘을 적용한다: 쌍방향 기울기 전달과 목록 기반 기울기 전달이며, 후자는 작업 간 관련성 정보를 통합하여 일관성을 향상시킨다.
• 최적화 과정에서 일관성 제약 조건을 적용하여 비공유 특징이 공유 공간을 오염시키는 것을 방지한다.
• PCA를 사용해 파라미터 진화를 시각화하여, 제안된 모델에서 공유 파라미터가 충돌하는 비공유 업데이트 방향들 사이에서 균형 잡힌 경로를 따르는 것으로 나타났다.
• 공유 레이어에서의 뉴런 활성도 분석을 위해 유사도 점수 $ q $ 를 사용하여 어떤 단어가 유용한 특징으로 식별되는지 평가한다.

실험 결과

연구 질문

• RQ1 작업 간 명시적인 기울기 교환은 다중 작업 학습에서 공유 표현의 순수성과 일관성에 어떤 영향을 미치는가?
• RQ2 기울기 전달은 공유 파라미터 공간 내에서 작업별 특징의 엔트레인먼트를 어느 정도 줄일 수 있는가?
• RQ3 기본적인 다중 작업 학습 베이스라인 대비 제안된 방법이 새로운 작업에 대한 일반화 능력을 향상시키는가(외작업 설정에서)?
• RQ4 기울기 통신에 작업 간 관련성 정보를 포함시킬 경우(목록 기반 대비 쌍방향), 모델 성능과 표현 품질에 어떤 영향을 미치는가?
• RQ5 공유 레이어의 뉴런 수준 활성도 패턴으로부터 특징 공유와 분리에 관해 어떤 통찰을 얻을 수 있는가?

주요 결과

• 제안된 방법인 PGP-SR는 비공유 기울기 방향을 통합함으로써 공유 공간 내에서 더 일관된 파라미터 업데이트를 달성하여, 작업별 특징에 의한 오염을 줄였다.
• 파라미터 진화 시각화에서 PGP-SR의 공유 파라미터는 충돌하는 비공유 업데이트 방향들 사이에서 균형 잡힌 경로를 따르는 반면, SR 기준 모델은 한 주요 방향을 따르는 것으로 나타났다.
• 공유 레이어 분석 결과, LGP-SR는 교차 어휘 내에서 'excellent'와 'doesnt'와 같은 고품질의 공유 특징을 정확히 식별한 반면, SR 기준 모델은 'Brosnan'과 'sauce'와 같은 작업별 특징어를 잘못 공유 공간에 할당하였다.
• 공백 어휘($ \overline{\bigcap_{i}^{5}V_{i}} $)에 속하는 외부 어휘에 대해서는 LGP-SR가 공유 의미를 더 잘 유지하여 'dissatisfied'와 'overlong'을 관련 특징으로 식별한 반면, SR은 많은 작업별 어휘를 잘못 공유로 분류하였다.
• 정량적 결과는 세 가지 다중 작업 학습 그룹과 두 가지 설정(in-task 및 out-of-task) 모두에서 성능 향상을 보여, 기울기 기반 통신의 효과를 확인하였다.
• 정성적 분석 결과, 제안된 방법을 사용할 경우 공유 레이어의 뉴런들이 더 선택적이고 의미적으로 일관성 있는 방식으로 공유 언어 패턴을 식별하는 것으로 나타났다.