[論文レビュー] Implications of the AI Act for Non-Discrimination Law and Algorithmic Fairness

Luca Deck, Jan-Laurin Müller+3 more|arXiv (Cornell University)|Mar 29, 2024

Digital Transformation in LawEconomics, Econometrics and Finance被引用数 3

ひとこと要約

本論文は、EU AI法が高リスクAIシステムの設計段階に差し込む形で差別の禁止法と技術的アルゴリズム公平性の間の溝を埋めることを主張している。AI法の枠組みにより、特定の社会的文脈に適合した公平性指標とバイアス検出プロトコルを義務付けることで、両分野における執行課題を解決できるが、指標選定と統計的検定の信頼性に関する重要なトレードオフが存在することを指摘している。

ABSTRACT

The topic of fairness in AI, as debated in the FATE (Fairness, Accountability, Transparency, and Ethics in AI) communities, has sparked meaningful discussions in the past years. However, from a legal perspective, particularly from the perspective of European Union law, many open questions remain. Whereas algorithmic fairness aims to mitigate structural inequalities at design-level, European non-discrimination law is tailored to individual cases of discrimination after an AI model has been deployed. The AI Act might present a tremendous step towards bridging these two approaches by shifting non-discrimination responsibilities into the design stage of AI models. Based on an integrative reading of the AI Act, we comment on legal as well as technical enforcement problems and propose practical implications on bias detection and bias correction in order to specify and comply with specific technical requirements.

研究の動機と目的

• 法的差別禁止法と技術的アルゴリズム公平性アプローチの間の不一致を分析すること。
• EU AI法が法的および技術的公平性の議論の間を橋渡しする役割を果たす仕組みであるかを検討すること。
• 差別を引き起こす可能性のあるバイアスを特定する上で「適切な」公平性指標を定義する際の実務的課題を特定すること。
• AI法の規制枠組みを通じて、法的および技術的分野における執行問題を解決すること。
• 法的および技術的要件と整合するバイアス検出および是正の実務的ガイダンスを提供すること。

提案手法

• 高リスクAIシステムに関するEU AI法の規定について、統合的かつ法的・技術的分析を実施すること。
• 差別禁止の法的解釈を、利用可能な技術的公平性指標にマッピングし、文脈に応じた適用可能性に重点を置くこと。
• 統計的仮説検定（例：z検定）を用いて、人的差別の平等性などの公平性指標への適合を評価すること。
• サンプルサイズと受入率が変化する条件下でのバイアス検出における第一種および第二種の誤り率を分析すること。
• 社会的文脈と法的基準に基づいた公平性指標選定の枠組みを提言すること。
• GDPRにおける特別カテゴリーのデータ処理が、公平性に配慮したAIのトレーニングデータ利用を正当化する役割を評価すること。

実験結果

リサーチクエスチョン

• RQ1 EU AI法は、差別禁止法の事後的執行モデルとアルゴリズム公平性の事前的設計焦点をどのように調和させることができるか。
• RQ2 AI法の要件下で、異なる社会的文脈に適した技術的公平性指標は何か。
• RQ3 差別を引き起こす可能性のあるバイアスを信頼性高く検出するために必要な統計的基準は何か。
• RQ4 サンプルサイズと受入率は、バイアス検出テストの信頼性にどのように影響するか。
• RQ5 AI法の枠組みは、法的および技術的公平性執行におけるギャップをどのように解消できるか。

主な発見

• AI法は、差別禁止責任を導入後処理の訴訟段階から設計段階に移行させることで、法的および技術的公平性の目的を一致させている。
• z検定などの統計的仮説検定を用いることで、人的差別の平等性などの公平性指標への適合を検証できるが、その信頼性はサンプルサイズと受入率に依存する。
• 第二種の誤り（違反を検出しないこと）は、サンプルサイズが大きく、受入率が高い場合に顕著に低下するが、グループ間の差が一定であっても同様に効果を示す。
• アンバランスなデータセットでは、受入率の変化が第二種誤りに与える影響が顕著であり、1800:200の割合で1800人中200人の申請者に対して受入率が980から780に低下した場合、誤り率が6パーセンテージポイント低下する。
• 一様な公平性指標では不十分であり、法的差別の概念と技術的公平性定義の間で文脈に応じた整合性が不可欠である。
• AI法は、GDPRに基づき特別カテゴリーのデータ処理を公平性目的で許可するが、これにより公的・私的利害の複雑なトレードオフが生じる。