[論文レビュー] Domain Adaptation meets Individual Fairness. And they get along

Debarghya Mukherjee, Felix Petersen+2 more|arXiv (Cornell University)|May 1, 2022

Insurance, Mortality, Demography, Risk Management被引用数 5

ひとこと要約

本稿は、ドメイン適応（DA）と個別公平性（IF）の間の双方向的関係を確立し、IFを強制することで、共変量シフト下での分布外一般化が向上すること、また、特徴分布を整合化するDA手法が確率的条件下でIFを強制できることを示している。主な貢献は、公平性介入とドメイン適応技術が、データ分布シフトに起因するアルゴリズムバイアスの緩和において、互いに補い合う関係にあたることを理論的かつ実験的に示したことである。

ABSTRACT

Many instances of algorithmic bias are caused by distributional shifts. For example, machine learning (ML) models often perform worse on demographic groups that are underrepresented in the training data. In this paper, we leverage this connection between algorithmic fairness and distribution shifts to show that algorithmic fairness interventions can help ML models overcome distribution shifts, and that domain adaptation methods (for overcoming distribution shifts) can mitigate algorithmic biases. In particular, we show that (i) enforcing suitable notions of individual fairness (IF) can improve the out-of-distribution accuracy of ML models under the covariate shift assumption and that (ii) it is possible to adapt representation alignment methods for domain adaptation to enforce individual fairness. The former is unexpected because IF interventions were not developed with distribution shifts in mind. The latter is also unexpected because representation alignment is not a common approach in the individual fairness literature.

研究の動機と目的

• アルゴリズムバイアスの介入、特に個別公平性（IF）が、分布シフト下でのモデル一般化性能を向上させるかどうかを調査すること。
• ドメイン適応（DA）手法が個別公平性を強制するために活用可能かどうかを検討すること。
• アルゴリズムバイアスとドメイン適応という二つの異なる研究分野の間のギャップを、共通するインダクティブバイアスと相乗効果を特定することで埋めること。
• 実世界のデータセット（BiosとToxicity）を用いた実験的妥当性確認を通じて、理論的主張を検証し、公平性と一般化の両面で異なる手法間の相互利益を示すこと。

提案手法

• 本稿は、1つのラベル付き訓練データセットをDA用のソースドメインとターゲットドメインに再分割する、新しいデータ分割戦略を提案する。分割は、バイオデータにおける性別などの公平性に関連する属性、コメント文におけるアイデンティティトークンに基づく。
• 標準的なドメイン適応手法（DANN、VADA、WDA、SenSeI）を分割されたデータに適用し、ドメイン間の特徴表現を統合することで、間接的に個別公平性を強制する。
• 理論的分析により、共変量シフト下で回帰関数が個別公平性を満たす場合、IFの強制が分布外精度の向上をもたらすことが示された。
• DAとIFの関係を形式化するための確率的要因モデルを導入し、このモデル下で特徴分布の整合化が個別公平性の強制を可能にすることを示した。
• 一貫性正則化を統合的原則として採用：類似した入力（例：性別代わりの代名詞のみを交換した同一のバイオグラフィ）は、類似した予測を出力すべきである。
• 実験では、バランス精度（BA）と予測一貫性（PC）を指標とし、信頼性を確保するため10回のランダム実行を実施した。

実験結果

リサーチクエスチョン

• RQ1 個別公平性（IF）の強制は、共変量シフト下でモデルの分布外一般化性能を向上させることができるか？
• RQ2 特徴分布を統合するDA手法は、特定の確率的仮定下で個別公平性を強制するために使用可能か？
• RQ3 ドメイン適応における表現統合と個別公平性の原則との間の理論的関係は何か？
• RQ4 公平性分割訓練データに適用した際、異なるDA手法は個別公平性指標の向上においてどのように比較されるか？
• RQ5 同じデータ分割戦略とDAトレーニング戦略が、公平性と一般化の両方で向上をもたらすことができるか？

主な発見

• DA手法によるIFの強制により、Toxicityデータセットでは予測一貫性（PC）が最大13.3ポイント向上し、WDAはベースラインの62.1%から65.4%に向上した。
• Biosデータセットでは、WDAが95.5%の予測一貫性を達成し、ベースライン（94.2%）および他のDA手法を上回った。
• 個別公平性に特化して設計されたSenSeI手法は、Toxicityデータセットで最高のPC（77.3%）を達成したが、問題固有の公平性指標を必要とした。一方、DA手法は単にデータ分割戦略のみを必要とした。
• DA手法の中で、WDAはバランス精度（BA）と予測一貫性（PC）の両面で最良のトレードオフを達成し、Toxicityデータセットで高いBA（83.3%）と強力なPC（65.4%）を維持した。
• 結果は、DAベースのアプローチが明示的な公平性指標を必要とせず、顕著な公平性向上を達成できることを示しており、専用のIF手法に比べてよりアクセスしやすいことを示している。
• 本研究は、IFとDAの両者が共通するインダクティブバイアス（特に類似した入力に対する予測の一貫性）に起因することを確認した。これは、両パラダイムに共通する統合的原則を示している。