[논문 리뷰] Identification of Negative Transfers in Multitask Learning Using Surrogate Models

Dongyue Li, Huy L. Nguyên외 1명|arXiv (Cornell University)|2023. 03. 25.

Domain Adaptation and Few-Shot Learning인용 수 5

한 줄 요약

이 논문은 다중작업 학습에서의 악성 전이를 식별하기 위해 서브티튜션 모델링 접근법을 제안한다. 이 방법은 소스 작업의 부분집합을 샘플링하고, 사전 계산된 성능에 기반해 선형 회귀 모델을 훈련한 후, 미리보지 않은 부분집합의 성능을 예측하는 방식이다. 이 방법은 관련성 점수를 통해 유익한 소스 작업을 효율적으로 식별하며, 기존의 친화도 측정 방법에 비해 악성 전이를 더 정확히 탐지하고 약한 감독 기반 벤치마크 성능을 크게 향상시킨다.

ABSTRACT

Multitask learning is widely used in practice to train a low-resource target task by augmenting it with multiple related source tasks. Yet, naively combining all the source tasks with a target task does not always improve the prediction performance for the target task due to negative transfers. Thus, a critical problem in multitask learning is identifying subsets of source tasks that would benefit the target task. This problem is computationally challenging since the number of subsets grows exponentially with the number of source tasks; efficient heuristics for subset selection do not always capture the relationship between task subsets and multitask learning performances. In this paper, we introduce an efficient procedure to address this problem via surrogate modeling. In surrogate modeling, we sample (random) subsets of source tasks and precompute their multitask learning performances. Then, we approximate the precomputed performances with a linear regression model that can also predict the multitask performance of unseen task subsets. We show theoretically and empirically that fitting this model only requires sampling linearly many subsets in the number of source tasks. The fitted model provides a relevance score between each source and target task. We use the relevance scores to perform subset selection for multitask learning by thresholding. Through extensive experiments, we show that our approach predicts negative transfers from multiple source tasks to target tasks much more accurately than existing task affinity measures. Additionally, we demonstrate that for several weak supervision datasets, our approach consistently improves upon existing optimization methods for multitask learning.

연구 동기 및 목표

• 모든 소스 작업을 결합할 경우 타겟 작업 성능에 악영향을 미치는 다중작업 학습에서의 악성 전이 문제를 해결하기 위해.
• 타겟 작업 학습을 향상시키는 최적의 소스 작업 부분집합을 효율적으로 선택하기 위한 방법을 개발하기 위해.
• 소스 작업 부분집합의 수가 기하급수적으로 증가함에 따라 평가하는 데 드는 계산 부담을 줄이기 위해.
• 복잡한 작업 간 관계를 포착하지 못하는 히ュ리스틱 부분집합 선택 방법에 비해 개선하기 위해.
• 미리보지 않은 작업 부분집합에 대해 다중작업 학습 성능을 정확하게 예측할 수 있도록 하기 위해.

제안 방법

• 다양한 소스 작업 부분집합을 무작위로 샘플링하여 다중작업 학습 성능을 평가한다.
• 기존 MTL 프레임워크를 사용해 각 샘플된 부분집합에 대한 다중작업 학습 성능을 사전 계산한다.
• 작업 부분집합과 그 성능 간의 관계를 근사하기 위해 선형 회귀 서브티튜션 모델을 훈련한다.
• 재학습 없이도 미리보지 않은 부분집합의 성능을 적합된 모델을 사용해 예측한다.
• 서브티튜션 모델 계수에서 유도된 각 소스 작업과 타겟 작업 간의 관련성 점수를 도출한다.
• 관련성 점수를 임계값 처리하여 기여도가 낮거나 해로운 소스 작업을 제외함으로써 부분집합 선택을 수행한다.

실험 결과

연구 질문

• RQ1 서브티튜션 모델링이 미리보지 않은 소스 작업 부분집합에 대해 다중작업 학습 성능을 효과적으로 예측할 수 있는가?
• RQ2 제안된 방법이 기존의 작업 친화도 측정 방법에 비해 악성 전이를 탐지하는 데 얼마나 효과적인가?
• RQ3 서브티튜션 모델링 접근법이 표준 MTL 최적화 방법에 비해 약한 감독 데이터셋에서 타겟 작업 성능을 향상시키는가?
• RQ4 샘플된 부분집합의 수를 고려할 때, 이 방법의 계산 효율성은 어떠한가?
• RQ5 서브티튜션 모델에서 유도된 관련성 점수가 다중작업 학습에서 효과적인 부분집합 선택을 얼마나 잘 이끌 수 있는가?

주요 결과

• 서브티튜션 모델은 소스 작업 수에 대해 선형적으로 많은 부분집합을 샘플링하기만 하면 되므로 계산 비용을 크게 줄인다.
• 기존의 작업 친화도 측정 방법에 비해 여러 소스 작업에서 발생하는 악성 전이를 훨씬 더 정확하게 예측한다.
• 다양한 약한 감독 데이터셋에서 제안된 방법은 기준 최적화 방법에 비해 일관되게 성능 향상을 보였다.
• 서브티튜션 모델에서 도출된 관련성 점수는 해로운 또는 도움이 되지 않는 소스 작업을 효과적으로 식별하여 더 나은 부분집합 선택을 가능하게 한다.
• 실험 결과에 따르면 관련성 점수 기반 임계값 처리가 일반화 성능 향상과 악성 전이 감소에 기여한다.
• 이론적 분석을 통해 서브티튜션 모델링 접근법이 대규모 다중작업 학습 환경에서 확장 가능하고 통계적으로 타당하다고 확인되었다.