[論文レビュー] Fairness-aware machine learning: a perspective

Indrė Žliobaitė|arXiv (Cornell University)|Aug 2, 2017

Ethics and Social Impacts of AI参考文献 22被引用数 15

ひとこと要約

本論文は、機械学習パイプラインの厳密な分析を通じて、アルゴリズムによる差別の発生の根本的要因を特定することにより、公平性に配慮した機械学習の体系的で理論的根拠に基づくアプローチを提案する。精度と公平性のバランスを取る統一的最適化基準を導入し、ヒューリスティックな修正ではなく、事前の予防が可能となる。

ABSTRACT

Algorithms learned from data are increasingly used for deciding many aspects in our life: from movies we see, to prices we pay, or medicine we get. Yet there is growing evidence that decision making by inappropriately trained algorithms may unintentionally discriminate people. For example, in automated matching of candidate CVs with job descriptions, algorithms may capture and propagate ethnicity related biases. Several repairs for selected algorithms have already been proposed, but the underlying mechanisms how such discrimination happens from the computational perspective are not yet scientifically understood. We need to develop theoretical understanding how algorithms may become discriminatory, and establish fundamental machine learning principles for prevention. We need to analyze machine learning process as a whole to systematically explain the roots of discrimination occurrence, which will allow to devise global machine learning optimization criteria for guaranteed prevention, as opposed to pushing empirical constraints into existing algorithms case-by-case. As a result, the state-of-the-art will advance from heuristic repairing, to proactive and theoretically supported prevention. This is needed not only because law requires to protect vulnerable people. Penetration of big data initiatives will only increase, and computer science needs to provide solid explanations and accountability to the public, before public concerns lead to unnecessarily restrictive regulations against machine learning.

研究の動機と目的

• 機械学習アルゴリズムがなぜ、どのように差別的になるのかという背後にある科学的理解の欠如に応えること。
• 異なる学習設定やデータタイプにわたる差別のメカニズムを説明する統一的理論的枠組みを構築すること。
• 非差別性を保証する体系的かつ普遍的に適用可能な最適化基準を確立すること。
• 一時的な制約や事後的修正に依存せずに、既存モデルの公平性を監査・診断可能にする仕組みを提供すること。
• 法的適合性を超えた科学的根拠を提示し、政策立案および実務に貢献する公平性の正当化を提供すること。

提案手法

• 差別が発生する可能性がある段階（特にデータ前処理、モデル学習、後処理）を特定するため、機械学習パイプライン全体を分析すること。
• 保護的属性で定義されるサブグループごとの誤差分布を分析することで、公平性を診断する診断フレームワーク（RQ1）を導入すること。
• 予測に使用しないにもかかわらず、モデル学習段階での感受性属性の役割を調査し、公平性に与える影響を定量化すること。
• サブグループごとの精度を最適化するために、クラスタリングまたは感受性スコアマッチングを提案し、誤差率の大きな乖離を低減すること。
• サブグループ間の差異を制御するパラメータを用いて、精度と公平性のトレードオフを取る強固な最適化基準を構築すること。
• 公平性と精度のトレードオフに関する理論的分析をもとに、非差別性制約を学習目的に統合すること。

実験結果

リサーチクエスチョン

• RQ1 RQ1: サブグループごとの誤差分布を分析することで、機械学習モデルの公平性問題を体系的・効果的に診断する方法は何か？
• RQ2 RQ2: アルゴリズムによる差別を引き起こす根本的な計算的メカニズムは何か。また、それらはデータのサンプリングやモデル構造にどのように依存するか？
• RQ3 RQ2.5: モデル開発における公平性監査のための診断および手順チェックリストをどのように構築できるか？
• RQ4 RQ3: 保護群全体にわたって非差別性を保証しつつ、モデル性能を損なわせない、新たな強固な最適化基準は何か？
• RQ5 RQ3.3: 新たな最適化基準による公平性の強制は、単なる適合性を超えて、モデル性能の向上をもたらす可能性はあるか？

主な発見

• 客観的で適切にサンプリングされたデータであっても、機械学習における差別が生じ得る。これは、バイアスが単にデータの問題ではなく、モデリングの問題でもあることを示唆する。
• 現在の公平性解決策はしばしば一時的な対策にとどまり、状況に特化した制約や指標に依存しており、統一的理論的基盤を欠いている。
• 予測に使用しないとしても、感受性属性をモデル学習段階に含めることは、差別のの検出および防止に不可欠である可能性がある。
• 線形回帰を用いたパイロットスタディでは、感受性属性を完全に除外することは、公平なモデル開発を阻害し、公平性の保証を損なう可能性があることが示された。
• 大きなサブグループ誤差の乖離を最小化する強固な最適化基準を用いることで、公平性と精度の両方を向上させたモデルが得られる。
• 理論的および実証的証拠から、公平性に配慮した最適化はモデル性能を向上させ得ることが示唆され、公平性が精度を低下させるという仮定に疑問を呈する。