[論文レビュー] Fairness and Explainability in Automatic Decision-Making Systems. A challenge for computer science and law

Thierry Kirat, Olivia Tambou+2 more|arXiv (Cornell University)|May 14, 2022

Digitalization, Law, and Regulation被引用数 4

ひとこと要約

本論文は、公平性と説明可能性の観点から、自動意思決定システムにおけるコンピュータサイエンスと法制度の橋渡しを果たしている。特に、教師あり機械学習における技術的選択が、アルゴリズム設計をはるかに超えて社会的・法的影響を及ぼすことを強調している。本研究は、米国と欧州の法的枠組みにおける公平性を比較し、法的説明可能性概念の多義性を浮き彫りにした上で、アルゴリズム意思決定システムにおける規範的・技術的・法的妥当性のトレードオフを解決するための学際的協働の必要性を提言している。

ABSTRACT

The paper offers a contribution to the interdisciplinary constructs of analyzing fairness issues in automatic algorithmic decisions. Section 1 shows that technical choices in supervised learning have social implications that need to be considered. Section 2 proposes a contextual approach to the issue of unintended group discrimination, i.e. decision rules that are facially neutral but generate disproportionate impacts across social groups (e.g., gender, race or ethnicity). The contextualization will focus on the legal systems of the United States on the one hand and Europe on the other. In particular, legislation and case law tend to promote different standards of fairness on both sides of the Atlantic. Section 3 is devoted to the explainability of algorithmic decisions; it will confront and attempt to cross-reference legal concepts (in European and French law) with technical concepts and will highlight the plurality, even polysemy, of European and French legal texts relating to the explicability of algorithmic decisions. The conclusion proposes directions for further research.

研究の動機と目的

• 教師あり機械学習における技術的選択が、アルゴリズム設計をはるかに超えて社会的・法的影響を内包することを検証すること。
• 差別の禁止法にかかわる差し迫った影響と顔の表面的中立性を持つ意思決定ルールに関して、米国と欧州の法制度における公平性基準を比較すること。
• アルゴリズム意思決定における説明可能性の法的・技術的側面を分析すること、特にヨーロッパおよびフランス法的文書における曖昧さと多義性に焦点を当てる。
• 国家的法制度とアルゴリズムの公平性・説明可能性に与える影響に関する学際的研究におけるギャップを特定すること。
• 法的規範、社会的価値観、技術的実現可能性を統合する自動意思決定システムにおける今後の研究方向性を提案すること。

提案手法

• 米国における差別禁止法と欧州における差別禁止法の公平性基準を比較する文脈的法的分析を用いる。
• 教師あり学習の中心的技術的枠組みとして、経験的リスク最小化（ERM）を採用し、損失関数、仮説クラス、評価ベンチマークに焦点を当てる。
• データバイアスとアルゴリズムバイアスを分類し、データ収集、モデル選択、評価プロセスの各段階における起源をたどる。
• GDPR やフランス法における説明可能性の法的概念と技術的解釈可能性手法を照合し、概念の多義性を浮き彫りにする。
• 意思決定者の価値観をモデル化する公理的枠組みを提言する。たとえば、「見えるものはすべて見える」対比として「私たちは皆等しい」という価値観を用い、公平性への影響を評価する。
• 公共の安全や他の社会的目的とのトレードオフを検討する規範的分析を実施し、COMPAS再犯予測ツールを例に挙げる。

実験結果

リサーチクエスチョン

• RQ1 データ収集、モデル選択、損失関数といった教師あり学習における技術的選択が、意図しない社会的結果を生じる仕組みは何か？
• RQ2 自動意思決定における差し迫った影響に関して、米国と欧州の法制度における公平性基準の主な相違点は何か？
• RQ3 ヨーロッパおよびフランス法における説明可能性の法的概念は、機械学習における技術的解釈可能性手法とどのように異なり、あるいは一致するか？
• RQ4 公平かつ説明可能なアルゴリズムシステムの設計において、法的制約と技術的制約をどの程度まで調和させることができるか？
• RQ5 社会的価値観や規範的好みを、法的・倫理的基準と整合させるために、アルゴリズム意思決定において形式的にモデル化する方法は何か？

主な発見

• 教師あり学習における技術的選択、たとえばデータ収集、仮説クラス、損失関数は、公平性の結果に直接的影響を与え、固有の社会的影響を内包している。
• 米国と欧州の法制度は、異なる公平性基準を推進している。米国は差し迫った影響と個人の公平性を重視するが、欧州は差別禁止と手続き的権利を重視する。
• ヨーロッパおよびフランスにおける説明可能性の法的文書には多義性が見られ、'説明可能性'という用語に複数の解釈が存在し、法的適合性と技術的実装を複雑にしている。
• 本研究は、米国およびEU以外の国々、特にアジア、オセアニア、ラテンアメリカにおける国家的法制度に関する研究における重要なギャップを特定した。
• 公共の安全の最大化と人種的差別の低減の間には根本的な対立が存在し、COMPAS再犯ケースでそれが明確に示された。
• 公平性は、技術的問題に単純に還元できるものではなく、平等な機会と人種的構成の同一性の間の明示的な社会的・法的規範的選択を伴う必要がある。