[논문 리뷰] Multitask learning over graphs

Roula Nassif, Stefan Vlaski외 3명|arXiv (Cornell University)|2020. 01. 07.

Domain Adaptation and Few-Shot Learning참고 문헌 28인용 수 5

한 줄 요약

이 논문은 네트워크 시스템에서 스트리밍 및 분산 데이터를 처리하기 위한 다중작업 학습 프레임워크를 제안한다. 여기서 에이전트들은 동시에 관련된 작업을 공동으로 학습하기 위해 협력한다. 작업 간 연관성을 협력 규칙을 통해 모델링함으로써, 비협력 전략에 비해 일반화 성능과 수렴 성능이 향상되며, 특히 동적인 탈중앙화 환경에서 유리하다.

ABSTRACT

The problem of learning simultaneously several related tasks has received considerable attention in several domains, especially in machine learning with the so-called multitask learning problem or learning to learn problem [1], [2]. Multitask learning is an approach to inductive transfer learning (using what is learned for one problem to assist in another problem) and helps improve generalization performance relative to learning each task separately by using the domain information contained in the training signals of related tasks as an inductive bias. Several strategies have been derived within this community under the assumption that all data are available beforehand at a fusion center. However, recent years have witnessed an increasing ability to collect data in a distributed and streaming manner. This requires the design of new strategies for learning jointly multiple tasks from streaming data over distributed (or networked) systems. This article provides an overview of multitask strategies for learning and adaptation over networks. The working hypothesis for these strategies is that agents are allowed to cooperate with each other in order to learn distinct, though related tasks. The article shows how cooperation steers the network limiting point and how different cooperation rules allow to promote different task relatedness models. It also explains how and when cooperation over multitask networks outperforms non-cooperative strategies.

연구 동기 및 목표

• 분산 및 스트리밍 데이터 환경에서 다수의 관련 작업을 학습하는 데 도전하는 것.
• 네트워크화된 에이전트 간의 작업 간 연관성을 활용하는 협력 학습 전략을 설계하는 것.
• 탈중앙화 시스템에서 비협력 학습에 비해 일반화 및 수렴 성능을 향상시키는 것.
• 다양한 협력 규칙이 작업 간 연관성과 네트워크 성능에 미치는 영향을 모델링하는 것.

제안 방법

• 에이전트들이 공유된 인덕티브 바이어스를 사용하여 서로 관련이 있지만 다른 작업을 공동으로 학습한다.
• 협력을 가중 평균을 통한 국소 추정치의 평균화로 모델링하며, 가중치는 작업 간 연관성을 반영한다.
• 신규 데이터가 지속적으로 유입됨에 따라 점진적으로 적응하는 온라인 학습 알고리즘을 사용한다.
• 다양한 작업 간 연관성 모델(예: 공유 기능, 계층적 관계 등)을 표현하기 위해 다양한 협력 규칙을 도입한다.
• 다양한 협력 전략 하에서 네트워크의 극한 점(정적 상태 성능)을 분석한다.
• 평균 제곱 오차 및 작업 정확도 측면에서 협력 학습과 비협력 학습을 비교하여 수렴성과 성능을 평가한다.

실험 결과

연구 질문

• RQ1 네트워크 상에서 스트리밍 및 분산 데이터에 대해 다중작업 학습을 효과적으로 적용할 수 있는 방법은 무엇인가?
• RQ2 에이전트 간 협력은 비협력 전략에 비해 학습 성능에 어떤 방식으로 기여하는가?
• RQ3 다양한 협력 규칙은 다중작업 네트워크에서 작업 간 연관성 모델링에 어떤 영향을 미치는가?
• RQ4 탈중앙화 시스템에서 협력적 다중작업 학습이 독립적 학습보다 우월한 조건은 무엇인가?
• RQ5 협력은 네트워크의 극한 점과 수렴 행동에 어떤 영향을 미치는가?

주요 결과

• 공유된 인덕티브 바이어스를 활용함으로써 협력은 관련 작업 간의 일반화 성능을 크게 향상시킨다.
• 다양한 협력 규칙은 공유 기능 또는 계층적 의존성과 같은 다양한 작업 간 연관성 구조를 모델링할 수 있게 한다.
• 네트워크의 극한 점은 협력 전략에 의해 영향을 받으며, 이는 작업 특화 학습과 공유 학습 간의 트레이드오프를 제어할 수 있게 한다.
• 특히 작업 간 연관성이 있을 경우, 협력 전략은 비협력 전략에 비해 수렴 속도와 정적 상태 오차 측면에서 뛰어난 성능을 보인다.
• 이 프레임워크는 스트리밍 데이터와 탈중앙화된 데이터 수집 환경에서도 강건한 성능을 유지하여 실시간 응용에 적합하다.