[論文レビュー] Affirmative Algorithms: The Legal Grounds for Fairness as Awareness

Daniel E. Ho, Alice Xiang|arXiv (Cornell University)|Dec 18, 2020

Digital Economy and Work Transformation被引用数 16

ひとこと要約

この論文は、米国法における平等保護の原則に反するおそれがあると主張し、特に個人の事情を考慮する必要がある高等教育分野において、人種に基づく補正を伴うアルゴリズム的手法が危険を伴うと指摘している。政府契約に関する法的根拠を提案し、歴史的差別を踏まえた公平性メカニズムの設計を提唱することで、機械学習におけるバイアス低減の憲法的に許容可能な道筋を提示している。

ABSTRACT

While there has been a flurry of research in algorithmic fairness, what is less recognized is that modern antidiscrimination law may prohibit the adoption of such techniques. We make three contributions. First, we discuss how such approaches will likely be deemed "algorithmic affirmative action," posing serious legal risks of violating equal protection, particularly under the higher education jurisprudence. Such cases have increasingly turned toward anticlassification, demanding "individualized consideration" and barring formal, quantitative weights for race regardless of purpose. This case law is hence fundamentally incompatible with fairness in machine learning. Second, we argue that the government-contracting cases offer an alternative grounding for algorithmic fairness, as these cases permit explicit and quantitative race-based remedies based on historical discrimination by the actor. Third, while limited, this doctrinal approach also guides the future of algorithmic fairness, mandating that adjustments be calibrated to the entity's responsibility for historical discrimination causing present-day disparities. The contractor cases provide a legally viable path for algorithmic fairness under current constitutional doctrine but call for more research at the intersection of algorithmic fairness and causal inference to ensure that bias mitigation is tailored to specific causes and mechanisms of bias.

研究の動機と目的

• 現在の反差別法下において、人種に基づく公平性技術を機械学習で用いる際の法的リスクを検討すること。
• 平等保護の原則に違反しない人種を考慮したアルゴリズム的介入を許容する法的枠組みを同定すること。
• 公共調達における歴史的責任を根拠にした、アルゴリズム的公平性のフレームワークを提唱すること。
• アルゴリズム的公平性と因果推論を統合し、差別の原因に特化したバイアス低減を実現すること。
• 将来的な研究が、憲法的および法的基準と整合する公平性アルゴリズムの開発を促進すること。

提案手法

• 特に高等教育分野における平等保護に関する米国最高裁判所の判例を分析し、形式的・定量的な人種に基づく是正措置に課せられる制約を同定する。
• 政府契約に関する doctrine を、歴史的差別を是正する明示的かつ定量的な人種に基づく調整を許容する法的例外として検討する。
• 公平性アルゴリズムは、組織の過去の差別的責任に合わせて調整されるべきであり、一般化された適用は避けるべきであると提唱する。
• 法的先例に基づき、人種を考慮した是正措置は、明白な歴史的被害と現在の格差との因果関係が立証された場合にのみ許容可能であると主張する。
• 因果推論手法を統合することで、バイアス低減が実際に差別のメカニズムを的確に的確に狙うことを保証する。
• 特定の法的例外に基づく正当な根拠がある場合に限り、アルゴリズム的公平性を「アファーマティブ・アクション」の形として位置づけるべきであり、一般原則としての適用は避けるべきである。

実験結果

リサーチクエスチョン

• RQ1 現在の平等保護の法理、特に高等教育分野において、人種に基づく公平性技術の使用にどのような制約が課されるか。
• RQ2 どのような法的文脈において、人種を考慮したアルゴリズム的介入が憲法的に許容可能となるか。
• RQ3 政府契約に関する doctrine は、アルゴリズムシステムにおける公平性の意識を実現する法的基盤として実現可能か。
• RQ4 組織の歴史的差別責任に応じて、アルゴリズム的公平性をどのように調整できるか。
• RQ5 因果推論は、バイアス低減が的確かつ法的に防御可能であるようにするために、どのような役割を果たすべきか。

主な発見

• 機械学習における人種に基づく公平性技術は、平等保護の原則下で『アルゴリズム的アファーマティブ・アクション』とみなされ、特に高等教育分野では法的挑戦を受ける可能性が高い。
• 政府契約に関する doctrine は、契約主体が過去に差別的責任を負っていた場合に限り、人種を考慮したアルゴリズム的介入を憲法的に正当化する基盤を提供する。
• このようなアルゴリズムの法的許容性は、組織の過去の差別的責任と、現在の格差との因果関係の立証に依存する。
• 現在の判例は、個別的考慮を要求し、人種の形式的・定量的重み付けを禁止しているため、多くの一般的な公平性技術は法的リスクを伴う。
• 法的枠組みは、組織が歴史的不平等を助長した役割に比例した調整がなされた場合に限り、公平性の意識を許容する。
• 将来的な研究は、因果推論とアルゴリズム的公平性を統合し、バイアス低減が法的に防御可能かつ的確にターゲットを絞ったものとなるようにする必要がある。