[論文レビュー] An Introduction to Artificial Intelligence and Solutions to the Problems of Algorithmic Discrimination

Nicholas Schmidt, Bryce Stephens|arXiv (Cornell University)|Nov 8, 2019

Legal and Policy Issues被引用数 15

ひとこと要約

この論文は、等価信用機会法（ECOA）などの既存の差別禁止法と整合するように、AIおよび機械学習システムにおけるアルゴリズム的バイアスの評価と是正のための手法を提示する。特に、消費者信用分野において、差し迫った不平等な取り扱いや影響を特定・軽減するフレームワークを提案し、文脈に配慮した公平性評価を重視することで、法的基準との整合性を確保するとともに、モデルの有用性を維持する。

ABSTRACT

There is substantial evidence that Artificial Intelligence (AI) and Machine Learning (ML) algorithms can generate bias against minorities, women, and other protected classes. Federal and state laws have been enacted to protect consumers from discrimination in credit, housing, and employment, where regulators and agencies are tasked with enforcing these laws. Additionally, there are laws in place to ensure that consumers understand why they are denied access to services and products, such as consumer loans. In this article, we provide an overview of the potential benefits and risks associated with the use of algorithms and data, and focus specifically on fairness. While our observations generalize to many contexts, we focus on the fairness concerns raised in consumer credit and the legal requirements of the Equal Credit and Opportunity Act. We propose a methodology for evaluating algorithmic fairness and minimizing algorithmic bias that aligns with the provisions of federal and state anti-discrimination statutes that outlaw overt, disparate treatment, and, specifically, disparate impact discrimination. We argue that while the use of AI and ML algorithms heighten potential discrimination risks, these risks can be evaluated and mitigated, but doing so requires a deep understanding of these algorithms and the contexts and domains in which they are being used.

研究の動機と目的

• AIおよび機械学習システムにおけるアルゴリズム的差別に関する懸念が高まる中、特にクレジットスコアリングなどのハイリスク分野において、それらを是正すること。
• 等価信用機会法（ECOA）を含む、既存の連邦および州の差別禁止法がアルゴリズム意思決定にどのように適用されるかを分析すること。
• 差し迫った不平等な取り扱いや影響の定義と整合するように、AIシステムにおけるバイアスの検出および低減を可能にする実用的手法を開発すること。
• 実際のAI導入における技術的公平性指標と法的適合性のギャップを埋めること。

提案手法

• 著者らは、特に等価信用機会法（ECOA）に基づいた法的基準に裏付けられた公平性評価フレームワークを提唱し、アルゴリズム意思決定を評価する。
• 差し迫った不平等な取り扱い（意図的なバイアス）と差し迫った影響（保護対象グループに対する意図しない悪影響）の両方の観点から公平性を定義する。
• 保護対象クラスごとの結果におけるグループレベルの差異を統計的検定を用いてモデルを監査する。
• クレジット適合性評価などの分野に特化した文脈的分析を組み込み、公平性の定義が分野に適していることを保証する。
• 法的適合性チェックをモデル開発ライフサイクルに統合し、規制要請と整合することを保証する。
• 法的枠組み下で説明可能で説明しやすいモデル意思決定を促進することで、透明性と説明可能性を重視する。

実験結果

リサーチクエスチョン

• RQ1 既存の差別禁止法と整合する方法で、AIシステムにおける公平性をどのように評価できるか？
• RQ2 アルゴリズム的意思決定における差し迫った不平等な取り扱いと差し迫った影響の間の主な法的違いは何か？
• RQ3 消費者信用分野における保護対象グループに対するバイアスを検出・是正するために、AIおよび機械学習モデルをどのように監査できるか？
• RQ4 技術的または統計的定義ではなく、法的基準を反映するように公平性指標をどのように適応できるか？
• RQ5 展開分野の文脈的理解は、法的に適合し、倫理的に整合したAIシステムを確保するために果たす役割は何か？

主な発見

• この論文は、差し迫った不平等な取り扱いと差し迫った影響を区別する法的適合の公平性指標を用いることで、クレジットスコアリングにおけるアルゴリズム的バイアスを体系的に検出できることを示している。
• 保護対象グループが差し迫った影響を受ける（例えば、不適切に高い割合でクレジットが否認される）場合、結果の分布の統計的分析によりそのようなモデルを同定できることを示している。
• 提案手法により、組織はモデルのパフォーマンスを損なわず、規制要件に違反することなく、事前にバイアスを評価・低減できる。
• 法的義務を果たすために、不利な意思決定の説明を要請するという点で、フレームワークは透明性を支援する。
• 研究は、法的適合性と技術的公平性が相互に排他的ではなく、責任あるAI導入のためには差別禁止法との整合性を図ることが現実的かつ不可欠であることを確認している。