[論文レビュー] Multi-dimensional discrimination in Law and Machine Learning -- A comparative overview

Arjun Roy, Jan Horstmann+1 more|arXiv (Cornell University)|Feb 12, 2023

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

本論文は、法と機械学習における多次元的差別のの比較的概要を提供し、特に交差的公平性を含む法的学術研究から抽出された主要な公平性定義を特定するとともに、それらが公平性に配慮した機械学習においてどのように実装されているかを分析している。現在の機械学習研究におけるギャップ、例えば加法的および逐次的差別に対する注目不足、交差的サブグループのデータ不足、および法的および技術的公平性フレームワークの間の統合的アプローチの必要性を浮き彫りにしている。

ABSTRACT

AI-driven decision-making can lead to discrimination against certain individuals or social groups based on protected characteristics/attributes such as race, gender, or age. The domain of fairness-aware machine learning focuses on methods and algorithms for understanding, mitigating, and accounting for bias in AI/ML models. Still, thus far, the vast majority of the proposed methods assess fairness based on a single protected attribute, e.g. only gender or race. In reality, though, human identities are multi-dimensional, and discrimination can occur based on more than one protected characteristic, leading to the so-called ``multi-dimensional discrimination'' or ``multi-dimensional fairness'' problem. While well-elaborated in legal literature, the multi-dimensionality of discrimination is less explored in the machine learning community. Recent approaches in this direction mainly follow the so-called intersectional fairness definition from the legal domain, whereas other notions like additive and sequential discrimination are less studied or not considered thus far. In this work, we overview the different definitions of multi-dimensional discrimination/fairness in the legal domain as well as how they have been transferred/ operationalized (if) in the fairness-aware machine learning domain. By juxtaposing these two domains, we draw the connections, identify the limitations, and point out open research directions.

研究の動機と目的

• 複数の保護属性（人種、性別、年齢など）に基づく多次元的差別が、法的学術研究においてどのように概念化されているか、および公平性に配慮した機械学習においてどのように実装されているかを検討すること。
• 現在の公平性に配慮した機械学習手法の限界を特定すること。これらの手法は主に単一属性の公平性に焦点を当てており、加法的および逐次的差別という未だ十分に探査されていない概念が含まれていないこと。
• 保護属性が重複する場合、特に訓練データにおけるサブグループが小さくなったり空集合になったりするため、交差的サブグループのデータ不足という課題に取り組むこと。
• 法的公平性と技術的公平性のギャップを埋めること。具体的には、法的公平性概念が機械学習フレームワークにどのように移行できるかを分析し、保護属性の定義やラベリングにおける課題を提示すること。
• 統計的検定の開発、サブグループ間の公平性トレードオフの改善、GDPR や EU AI アクトに準拠した感覚的データの倫理的利用を含む、未解決の研究方向性を提案すること。

提案手法

• 交差性、累積的差別、逐次的差別を含む、多次元的差別に関する法的文献を体系的にレビューする。
• 法的公平性概念を、公平性に配慮した機械学習における実装にマッピングする。特に、交差的公平性がどのように採用されたかに注目し、加法的および逐次的公平性のような他の形式がまだ未発展である点を分析する。
• 複数の保護属性が組み合わさった場合の、多次元的差別の検出および是正における技術的課題を分析する。特に、保護属性の組み合わせによるサブグループの縮小に起因するデータ不足の問題に焦点を当てる。
• 既存の公平性指標および是正技術を評価し、それらが交差的および逐次的差別を扱う際の限界を特定する。
• 合成データ生成の活用を、データ不足の解決策として提案するが、サブグループへのバイアスの組み込みのリスクを警告する。
• GDPR や EU AI アクトのような規制枠組みを検討する。特に、第10条(5)項は、厳密な条件下で感覚的データの使用を許可しており、バイアス検出に役立つ可能性がある。この枠組みを、公平性研究における倫理的データ利用を支援するものとする。

実験結果

リサーチクエスチョン

• RQ1 法的学術研究において多次元的差別はどのように概念化されており、そのうちのどの概念が公平性に配慮した機械学習において実装されているか？
• RQ2 なぜ機械学習コミュニティは交差的公平性に主に注目しているのか。加法的および逐次的差別はほとんど無視されているのか？
• RQ3 保護サブグループが統計的分析に十分な大きさにまで小さくなる場合、多次元的差別の検出および是正における技術的および倫理的課題は何か？
• RQ4 公平性指標および是正技術は、複数の保護属性にわたる公平性のトレードオフをどのように扱えるように変更できるか？
• RQ5 GDPR や EU AI アクトのような規制枠組みは、AIシステムにおける多次元的差別の検出および是正に向けた責任あるデータ利用をどのように促進できるか？

主な発見

• 公平性に配慮した機械学習手法の大部分は、まだ単一次元的公平性に焦点を当てており、性別や人種といった単一の保護属性に基づくバイアスの評価に限られている。しかし、現実の差別は本質的に多次元的である。
• 交差的公平性（批判的法理論および重複する抑圧のシステムに基づく）は、機械学習研究で主に採用されたフレームワークであるが、加法的および逐次的差別は未だ十分に探査されていない。
• データ不足は主要な障壁である。保護属性の数が増えると、交差的サブグループのサイズは縮小し、統計的分析やバイアス検出が信頼できなくなる。特に、小さなグループや弱い立場のグループに対して顕著である。
• 特に欧州裁判所の法的判例は、小規模なサブグループにおける差別検出に不適切な統計的検定に依存しており、現在の公平性評価手法にギャップがあることを示している。
• EU AI アクトの第10条(5)項は、感覚的個人データをバイアス監視に使用することを許可しており、データ不足の解決に向けた潜在的な規制的道筋を示している。ただし、倫理的およびプライバシー上の懸念は依然として残っている。
• 合成データ生成は、希少なサブグループを補完するための有望なが、設計が不十分な場合、既存のバイアスを組み込んだり拡大したりするリスクがある。社会学的および法的専門知識を反映した注意深い設計が不可欠である。