[論文レビュー] Gradual Fine-Tuning for Low-Resource Domain Adaptation

Haoran Xu, Seth Ebner+4 more|arXiv (Cornell University)|Mar 3, 2021

Seismic Imaging and Inversion Techniques参考文献 24被引用数 16

ひとこと要約

本稿では、段階的微調整（gradual fine-tuning）と呼ばれる、複数段階にわたる微調整手法を提案する。この手法は、訓練バッチにおけるドメイン内データの割合を段階的に増加させることで、低リソースドメイン適応の性能を向上させる。モデルを段階的に、徐々にターゲットドメインに近いデータ分布へと繰り返し微調整することで、モデル構造や損失関数を変更せずに、標準的な1段階微調整よりも顕著な性能向上を達成し、対話状態追跡およびイベント抽出タスクにおいて最先端の結果を示した。

ABSTRACT

Fine-tuning is known to improve NLP models by adapting an initial model trained on more plentiful but less domain-salient examples to data in a target domain. Such domain adaptation is typically done using one stage of fine-tuning. We demonstrate that gradually fine-tuning in a multi-stage process can yield substantial further gains and can be applied without modifying the model or learning objective.

研究の動機と目的

• ドメイン内データが乏しい低リソースドメイン適応の状況での性能向上を図ること。
• 1段階微調整の限界を是正すること。1段階微調整はモデルをターゲットドメインに急激にシフトさせるため、最適でない収束を引き起こす可能性がある。
• 学習カリキュラムに類似した訓練スケジュール（元々簡単な混合ドメインデータから始め、徐々にターゲットドメイン特化のデータへと移行）が、より良い一般化性能をもたらすかどうかを検証すること。
• モデルアーキテクチャや学習目的を変更せずにドメイン適応を向上させる手法を開発すること。
• 対話状態追跡や多言語間イベント抽出を含む、多様なNLPタスクにおいてこのアプローチを検証すること。

提案手法

• 本手法は、各段階でドメイン内データの割合が段階的に増加する多段階微調整プロセスを用いる。
• 各訓練段階では、ドメイン外データとドメイン内データを混合し、その割合を段階を経て増加させる。
• 各段階でモデルを収束まで微調整した後、次の段階に移行するため、安定したパラメータ更新が保証される。
• 既存の微調整パイプラインと互換性があり、モデルや損失関数の変更ではなく、データスケジュールの設定変更のみで実装可能である。
• 訓練の軌道は、学習カリキュラムの原則に従い、元のソースドメインに最も近いデータから始め、徐々にターゲットドメインの分布に近づける。
• 本手法は単言語および多言語設定の両方に対応しており、イベント抽出タスクにおいて英語からアラビア語への多言語転送にも適用可能である。

実験結果

リサーチクエスチョン

• RQ1 ドメイン内データの割合を段階的に増加させる多段階微調整戦略は、低リソースドメイン適応において性能向上をもたらすか？
• RQ2 学習カリキュラムにインspiredされた段階的適応は、1段階微調整と比較して、より良い収束性と一般化性能をもたらすか？
• RQ3 本手法は、対話状態追跡やイベント抽出のようにドメイン内データが限られるタスクにおいて、どの程度性能を向上させられるか？
• RQ4 性能向上の要因は、分布の整合性の向上にあるのか、それとも最適化の安定性の向上にあるのか？
• RQ5 本アプローチは、モデルアーキテクチャの変更なしに、さまざまなNLPタスクやモデルアーキテクチャに普遍的に適用可能か？

主な発見

• MultiWOZ v2.0 対話状態追跡タスクにおいて、段階的微調整はホテルドメインで94.30%のスロット正確度と52.12%のジョイント正確度を達成し、1段階微調整（92.49%のジョイント正確度）を上回った。
• レストランドメインでは、段階的微調整が94.30%のスロット正確度と67.27%のジョイント正確度を達成したのに対し、1段階微調整は93.47%と61.15%であった。
• アラビア語イベント抽出タスクでは、段階的微調整が66.29%のトリガー特定F1と62.87%のトリガー分類F1を達成し、アラビア語データのみで訓練された最先端モデルと比較して5.84ポイントの絶対的向上を示した。
• ACE 2005データセットにおいて、段階的微調整は、すべての4つの評価指標（TrigID, TrigC, ArgID, ArgC）で1段階微調整および混合データ訓練ベースラインを上回った。
• ターゲットドメインに非常に限られたドメイン内データしかない状況でも、段階的微調整は一貫した向上を示し、低リソース環境での有効性を裏付けた。
• 本手法はモデルアーキテクチャや損失関数の変更を一切必要としないため、既存の微調整パイプラインへの容易な統合が可能である。