[論文レビュー] On Transferability of Bias Mitigation Effects in Language Model Fine-Tuning

Xisen Jin, Francesco Barbieri+4 more|arXiv (Cornell University)|Oct 24, 2020

Hate Speech and Cyberbullying Detection参考文献 14被引用数 4

ひとこと要約

本稿では、上流タスクでの初期微調整中に事前学習された言語モデルのバイアスを軽減する、アップストリームバイアス軽減（UBM）という転移学習手法を提案する。これにより、追加の軽減処理が不要な状態で、下流モデルが低減されたバイアスを継承できる。ハートスピーチ、毒性、職業予測、コアリソリューションの分野における実験では、直接微調整やバニラ転移と比較して、UBMが下流タスクにおけるバイアスを顕著に低減することが示され、バイアス軽減効果の転送性が裏付けられた。

ABSTRACT

Fine-tuned language models have been shown to exhibit biases against protected groups in a host of modeling tasks such as text classification and coreference resolution. Previous works focus on detecting these biases, reducing bias in data representations, and using auxiliary training objectives to mitigate bias during fine-tuning. Although these techniques achieve bias reduction for the task and domain at hand, the effects of bias mitigation may not directly transfer to new tasks, requiring additional data collection and customized annotation of sensitive attributes, and re-evaluation of appropriate fairness metrics. We explore the feasibility and benefits of upstream bias mitigation (UBM) for reducing bias on downstream tasks, by first applying bias mitigation to an upstream model through fine-tuning and subsequently using it for downstream fine-tuning. We find, in extensive experiments across hate speech detection, toxicity detection, occupation prediction, and coreference resolution tasks over various bias factors, that the effects of UBM are indeed transferable to new downstream tasks or domains via fine-tuning, creating less biased downstream models than directly fine-tuning on the downstream task or transferring from a vanilla upstream model. Though challenges remain, we show that UBM promises more efficient and accessible bias mitigation in LM fine-tuning.

研究の動機と目的

• 上流微調整段階でバイアス軽減を適用することで、再び軽減処理を施さずに下流モデルのバイアスを低減できるかを調査すること。
• 感受性属性のアノテーションやカスタム公平性メトリクスを必要とするタスク固有のバイアス軽減の非効率性とアクセス困難性を是正すること。
• 1つの上流モデルが複数のバイアス要因を軽減でき、その恩恵を多様な下流タスクおよびドメインに転送できるかを評価すること。
• 上流バイアス低減を下流カスタマイズから分離することで、NLPにおけるより効率的かつアクセスしやすいバイアス軽減を実現すること。

提案手法

• 1つ以上の上流データセット上で事前学習された言語モデルの微調整中にバイアス軽減目的を適用し、バイアスのないエンコーダーを生成する。
• 上流微調整後、分類ヘッドを再初期化して、下流適応が上流タスクに依存しないようにする。
• 追加のバイアス軽減なしに、新しい分類ヘッドを用いて上流でバイアスを低減したエンコーダーを下流タスクで微調整する。
• 勾配に基づく重要度分析を用いて、上流バイアス軽減が下流学習における誤った特徴にのモデル感受性をどのように低減するかを測定する。
• 上流の軽減から得られるインダクティブバイアスを活用し、下流微調整段階でバイアスのある表現に対する勾配更新を低減する。
• 標準的な公平性メトリクスと勾配ノルムを用いて、バイアス低減の安定性を評価するため、タスクおよびドメイン間での転送性を評価する。

実験結果

リサーチクエスチョン

• RQ1 上流段階で1つのバイアス要因を軽減することで、同じドメインおよびタスクの新しい例に対する微調整でもバイアスが低減されたままであるか？
• RQ2 上流バイアス軽減は、上流設定とは異なる下流タスクおよびドメインに転送可能か？
• RQ3 1つの上流モデルが複数のバイアス種別を軽減でき、その効果を多様な下流応用に転送できるか？
• RQ4 上流バイアス軽減は、下流微調整段階で誤った特徴に対する勾配更新の大きさをどの程度低減するか？

主な発見

• UBMは、ハートスピーチ検出、毒性検出、職業予測、コアリソリューションの各タスクにおいて、下流モデルのバイアスを顕著に低減した。
• 公平性メトリクスの観点から、UBMは直接下流タスクで微調整する手法やバニラ上流モデルからの転移と比較して優れている。
• バイアスのある表現の勾配ノルムは、下流学習の全期間にわたり低く保たれ、誤った特徴への感受性が低減していることを示している。
• UBMモデルでは、モデル予測における誤ったパターンの重要度が一貫して低く抑えられており、バイアスのある特徴への依存が減少していることが確認された。
• UBMは、上流タスクと異なる下流タスクおよびドメインに対しても転送性を示したが、マルチバイアス設定では性能がやや不安定であった。
• 勾配分析により、UBMがバイアスのある表現に対する勾配の大きさを低減していることが確認され、より安定的かつ公平な下流最適化のトレースが得られていることが示唆された。