[論文レビュー] The four-fifths rule is not disparate impact: a woeful tale of epistemic trespassing in algorithmic fairness

Elizabeth Anne Watkins, Michael J. McKenna+1 more|arXiv (Cornell University)|Feb 19, 2022

Ethics and Social Impacts of AI被引用数 16

ひとこと要約

この論文は、米国労働法における四分の五の法則（元々は米国における雇用法上の指針として策定されたもの）を、単独の公平性指標として誤用しているアルゴリズム公平性コミュニティの問題を批判している。これは、法的概念を歪め、倫理的被害のリスクを伴う認識の越境（epistemic trespassing）であると主張する。著者らは、人気のあるAIツールキットに組み込まれたこの抽象化が、差別の的影響（disparate impact）を測定可能な閾値として誤って描写し、誤った適合性主張や、実世界の意思決定システムにおける道徳的混乱を引き起こしていることを示している。

ABSTRACT

Computer scientists are trained to create abstractions that simplify and generalize. However, a premature abstraction that omits crucial contextual details creates the risk of epistemic trespassing, by falsely asserting its relevance into other contexts. We study how the field of responsible AI has created an imperfect synecdoche by abstracting the four-fifths rule (a.k.a. the 4/5 rule or 80% rule), a single part of disparate impact discrimination law, into the disparate impact metric. This metric incorrectly introduces a new deontic nuance and new potentials for ethical harms that were absent in the original 4/5 rule. We also survey how the field has amplified the potential for harm in codifying the 4/5 rule into popular AI fairness software toolkits. The harmful erasure of legal nuances is a wake-up call for computer scientists to self-critically re-evaluate the abstractions they create and use, particularly in the interdisciplinary field of AI ethics.

研究の動機と目的

• AI分野における一般の公平性指標として抽象化された米国労働法の四分の五の法則が、どのように認識の越境（epistemic trespassing）を引き起こしているかを明らかにすること。
• この抽象化が、元々の法的意味である差別的影響（disparate impact）を歪め、誤った倫理的・規制的含意を生み出していることの分析。
• この誤った指標が、主要なAI公平性ツールキットに広がった経緯を文書化し、分野を越えた誤用の拡大を明らかにすること。
• 80%の閾値を普遍的な公平性基準として扱う際の道徳的リスク（deontic risks）を強調すること。これは、その基準が極めて限定的な法的起源を持つにもかかわらずである。
• 特に、異分野のAI倫理研究において、抽象化のあり方について、コンピュータサイエンス分野における自己批判を促すこと。

提案手法

• 1978年に米国政府出版局によって規定された、四分の五の法則（80%ルール）の元の規制文書を分析。
• 差別的影響（DI）指標を、隣接部分（synecdoche）として定義：保護対象群と大多数群の選択確率の比を用いて、差別的影響の兆候を特定する。
• この指標が、法的適合性からアルゴリズム公平性ツールキット（Fairlearn、H2O.ai、Salesforce Einstein、Fairplay AIなど）へと移行した経路をたどる。
• この指標が、法的根拠のない非米国的・非雇用的文脈（例：住宅、金融）にも適用されていることを示し、その適用範囲を超えて使われていることを明らかにする。
• 80%の閾値を満たすことが、法的適合性に等しいという誤った仮定を特定。これは、差別的影響を審査する包括的な法的プロセスを無視している。
• Feldmanら（2015）の「差別的影響除去手法（disparate impact remover）」を批判。これは、この抽象化を実体化（reification）したものであり、解決策として扱っているが、実際には法的基準ではない。

実験結果

リサーチクエスチョン

• RQ1 米国労働法における四分の五の法則が、アルゴリズム公平性分野で一般の公平性指標としてどのように抽象化されたのか。
• RQ2 80%の閾値を普遍的な公平性基準として扱うことが、認識論的・道徳的（epistemic and deontic）にどのような影響を及ぼすのか。
• RQ3 人気のあるAI公平性ツールキットが、この抽象化をどれほど広めているのか。また、その普及が社会に及ぼすリスクは何か。
• RQ4 DI指標を法的差別的影響の結論と混同することは、なぜ認識の越境（epistemic trespassing）の形をとるのか。
• RQ5 この指標の誤用が、AIシステムにおける適切な法的推論と倫理的意思決定をどのように損なうのか。

主な発見

• 四分の五の法則は、元々単独の公平性指標として設計されたものではなく、雇用差別に対する規制的指針にすぎず、一般の公平性基準ではない。
• DI指標（|Pr(C=YES|X=0)/Pr(C=YES|X=1)| ≤ 0.8）は、法的差別的影響の概念を誤って表現する、実体化された抽象化である。
• Fairlearn、H2O.ai、Salesforce Einstein、Fairplay AIなどの人気あるAI公平性ツールキットがDI指標を内蔵しており、多様な分野に法的関連性があるかのように誤って示唆している。
• この指標は、米国連邦雇用法の外縁である非米国的管轄区域や非雇用的文脈（例：住宅、金融）にも適用されており、その適用が米国連邦雇用法外で認められている証拠はない。
• 80%の閾値を満たすことが公平性に等しいという信念は、誤った適合性の感覚を生み出し、実際の法的推論や文脈に応じた分析の必要性を隠蔽している。
• 「差別的影響除去手法」は、この指標を解決策として扱い、バイアス除去が単に選択確率の調整に過ぎないという誤解を強化しており、根本的な法的・倫理的問題の解決にはなっていない。