[논문 리뷰] Active$^2$ Learning: Actively reducing redundancies in Active Learning methods for Sequence Tagging and Machine Translation

Rishi Hazra, Parag Dutta외 3명|arXiv (Cornell University)|2021. 03. 11.

Machine Learning and Algorithms참고 문헌 44인용 수 5

한 줄 요약

이 논문은 순서 태깅과 기계 번역을 위한 활성 학습에서 중복을 줄이기 위해 동적으로 유사한 예제를 걸러내는 Active$^2$ Learning (A$^2$L)을 제안한다. 표준 활성 학습 전략에 의해 선택된 유사한 예제를 동적으로 걸러내는 다각도 인식 개선 단계를 도입함으로써, A$^2$L은 추가적인 계산 비용 없이도 데이터 요구량을 3–25% 감소시키면서도 다양한 자연어 처리(NLP) 작업에서 모델 성능을 유지한다.

ABSTRACT

While deep learning is a powerful tool for natural language processing (NLP) problems, successful solutions to these problems rely heavily on large amounts of annotated samples. However, manually annotating data is expensive and time-consuming. Active Learning (AL) strategies reduce the need for huge volumes of labeled data by iteratively selecting a small number of examples for manual annotation based on their estimated utility in training the given model. In this paper, we argue that since AL strategies choose examples independently, they may potentially select similar examples, all of which may not contribute significantly to the learning process. Our proposed approach, Active$\mathbf{^2}$ Learning (A$\mathbf{^2}$L), actively adapts to the deep learning model being trained to eliminate further such redundant examples chosen by an AL strategy. We show that A$\mathbf{^2}$L is widely applicable by using it in conjunction with several different AL strategies and NLP tasks. We empirically demonstrate that the proposed approach is further able to reduce the data requirements of state-of-the-art AL strategies by an absolute percentage reduction of $\approx\mathbf{3-25\%}$ on multiple NLP tasks while achieving the same performance with no additional computation overhead.

연구 동기 및 목표

• 유사한 샘플이 별개로 선택되어 학습 효율성이 떨어지는 활성 학습에서의 중복 예제 선택 문제를 해결하기 위해.
• 추가 계산 비용 없이 중복 레이블링을 최소화함으로써 순서 태깅과 기계 번역에서 데이터 효율성을 향상시키기 위해.
• 다양한 NLP 작업에서 다양한 활성 학습 전략을 향상시키는 일반적인 방법을 개발하기 위해.
• 중복 예제를 걸러내는 것이 레이블된 데이터 요구량을 크게 줄이고 모델 성능을 유지하는 데 기여하는지 입증하기 위해.

제안 방법

• A$^2$L은 모델의 은닉 공간에서의 표현을 기반으로 이미 선택된 샘플과 유사도가 높은 예제를 제거하는 후처리 필터링 단계를 통합한다.
• 필터링은 임베딩 기반 유사도(예: 코사인 유사도)를 사용하여 어떤 기본 활성 학습 전략에 의해 먼저 선택된 후에 중복 예제를 식별하고 제거한다.
• 이 과정은 활성 학습 루프 동안 반복적으로 적용되어, 오직 다양하고 정보가 풍부한 샘플만 레이블링되고 학습된다.
• 이 방법은 모델에 종속되지 않으며 다양한 불확실성 기반, 다양성 기반, 그리고 불확실성+다양성 전략과 호환된다.
• 필터링 과정에서 추가적인 순방향 전파가 필요로 하지 않아 표준 활성 학습보다 추가 계산 오버헤드가 없다.
• 이 방법은 사전 학습된 트랜스포머 기반 모델을 사용하여 순서 태깅 및 신경 기계 번역 작업에서 종단 간(end-to-end)으로 적용된다.

실험 결과

연구 질문

• RQ1 활성적으로 선택된 예제의 중복을 줄이면 NLP 작업에서 레이블된 데이터 요구량을 크게 줄일 수 있는가?
• RQ2 다양한 활성 학습 전략과 결합했을 때 A$^2$L의 데이터 효율성 향상 효과는 얼마나 높은가?
• RQ3 A$^2$L은 레이블된 예제 수를 줄이면서도 모델 성능을 유지하는가?
• RQ4 A$^2$L의 필터링 메커니즘은 다양한 NLP 작업에서 계산적으로 효율적이고 확장 가능한가?

주요 결과

• A$^2$L은 다양한 NLP 작업에서 기준 활성 학습 대비 동일한 모델 성능을 달성하면서도 레이블된 예제 수를 3–25% 감소시킨다.
• 이 방법은 불확실성 샘플링과 다양성 기반 방법을 포함한 다양한 활성 학습 전략에서 일관되게 데이터 효율성을 향상시킨다.
• 필터링은 기존 모델 표현을 사용하므로 추가 계산 비용 없이 성능 향상을 달성한다.
• 데이터가 적은 환경에서 중복이 학습 효율성에 가장 큰 영향을 미치므로, 데이터 요구량 감소 효과가 가장 두드러진다.
• 실험 결과에 따르면 A$^2$L이 중복 예제를 효과적으로 걸러내며, 필터링 후 선택된 샘플 간의 코사인 유사도가 낮아짐을 확인할 수 있다.