[論文レビュー] Active$^2$ Learning: Actively reducing redundancies in Active Learning methods for Sequence Tagging and Machine Translation

Rishi Hazra, Parag Dutta+3 more|arXiv (Cornell University)|Mar 11, 2021

Machine Learning and Algorithms参考文献 44被引用数 5

ひとこと要約

この論文では、系列タギングおよび機械翻訳のアクティブラーニングにおける冗長性を低減するため、標準的なアクティブラーニング戦略が選択する類似例を動的にフィルタリングする方法であるActive$^2$ Learning (A$^2$L) を提案する。追加の計算コストが一切かからない多様性に配慮した精錬ステップを適用することで、A$^2$Lは複数の自然言語処理タスクでモデル性能を維持したまま、データ要件を3–25％削減する。

ABSTRACT

While deep learning is a powerful tool for natural language processing (NLP) problems, successful solutions to these problems rely heavily on large amounts of annotated samples. However, manually annotating data is expensive and time-consuming. Active Learning (AL) strategies reduce the need for huge volumes of labeled data by iteratively selecting a small number of examples for manual annotation based on their estimated utility in training the given model. In this paper, we argue that since AL strategies choose examples independently, they may potentially select similar examples, all of which may not contribute significantly to the learning process. Our proposed approach, Active$\mathbf{^2}$ Learning (A$\mathbf{^2}$L), actively adapts to the deep learning model being trained to eliminate further such redundant examples chosen by an AL strategy. We show that A$\mathbf{^2}$L is widely applicable by using it in conjunction with several different AL strategies and NLP tasks. We empirically demonstrate that the proposed approach is further able to reduce the data requirements of state-of-the-art AL strategies by an absolute percentage reduction of $\approx\mathbf{3-25\%}$ on multiple NLP tasks while achieving the same performance with no additional computation overhead.

研究の動機と目的

• 類似したサンプルが独立して選択されるという、アクティブラーニングにおける冗長な例選択の問題に対処すること。
• 追加の計算コストを増加させることなく、冗長なアノテーションを最小限に抑えることで、系列タギングおよび機械翻訳におけるデータ効率を向上させること。
• 複数のNLPタスクにわたる多様なアクティブラーニング戦略を強化する汎用的手法を開発すること。
• 冗長な例のフィルタリングが、モデル性能を維持したままラベル付きデータの必要量を顕著に削減することを実証すること。

提案手法

• A$^2$Lは、モデルの隠れ空間における表現に基づいて、すでに選択済みのサンプルと類似度の高い例を削除する後処理フィルタリングステップを統合する。
• 同様の例を識別・破棄するために、埋め込みベースの類似度（例：コサイン類似度）を用い、任意の基本アクティブラーニング戦略による初期選択後に適用する。
• フィルタリングはアクティブラーニングループ内で繰り返し適用され、多様で情報量の多いサンプルのみがラベル付けされ、学習に使用される。
• このアプローチはモデルに依存せず、アクティブラーニングにおける不確実性、多様性、および不確実性＋多様性戦略と両立可能である。
• フィルタリング中は追加のフォワードパスが不要であるため、標準的なアクティブラーニングに比べて計算コストはゼロの追加負荷が生じない。
• A$^2$Lは、事前学習済みのトランスフォーマー基盤モデルを用いて、系列タギングおよびニューラル機械翻訳タスクでエンドツーエンドに適用される。

実験結果

リサーチクエスチョン

• RQ1 アクティブに選択された例の冗長性を低減することで、NLPタスクにおけるラベル付きデータの必要量を顕著に削減できるか？
• RQ2 A$^2$Lは、多様なアクティブラーニング戦略と組み合わせた場合、データ効率をどれほど向上させられるか？
• RQ3 A$^2$Lは、ラベル付き例の数を減らしてもモデル性能を維持できるか？
• RQ4 A$^2$Lのフィルタリング機構は、さまざまなNLPタスクにおいて計算的に効率的かつスケーラブルか？

主な発見

• A$^2$Lは、複数のNLPタスクで、ベースラインのアクティブラーニングと同等のモデル性能を達成しながら、ラベル付き例の数を3–25％削減する。
• 不確実性サンプリングや多様性に基づく手法を含む、さまざまなアクティブラーニング戦略において、一貫してデータ効率が向上する。
• フィルタリングは既存のモデル表現を用いるため、追加の計算コストが一切かからず、性能向上が達成される。
• データが少ない状況下で、冗長性が学習効率に与える影響が最大となるため、データ要件の削減は特に低データ環境で顕著である。
• 実証的結果から、A$^2$Lが冗長な例を効果的にフィルタリングしていることが示されており、フィルタリング後の選択サンプル間のコサイン類似度が低くなっている。