[論文レビュー] State of the Art in Fair ML: From Moral Philosophy and Legislation to Fair Classifiers

Elias Baumann, Josef Lorenz Rumberger|arXiv (Cornell University)|Nov 20, 2018

Ethics and Social Impacts of AI参考文献 42被引用数 4

ひとこと要約

本論文は、機械学習における公平性について包括的なサーベイを提供し、道徳的哲学、GDPRのような法的枠組み、およびアルゴリズム的差別のを検出・防止する技術的手法を統合している。本稿は、観察的公平性基準、因果モデル、解釈可能なアルゴリズムを組み合わせた多面的戦略を提唱し、MLシステムにおけるバイアスを特定・緩和する。公平性には技術的厳密性と実務者による倫理的責任の両方が不可欠であると強調している。

ABSTRACT

Machine learning is becoming an ever present part in our lives as many decisions, e.g. to lend a credit, are no longer made by humans but by machine learning algorithms. However those decisions are often unfair and discriminating individuals belonging to protected groups based on race or gender. With the recent General Data Protection Regulation (GDPR) coming into effect, new awareness has been raised for such issues and with computer scientists having such a large impact on peoples lives it is necessary that actions are taken to discover and prevent discrimination. This work aims to give an introduction into discrimination, legislative foundations to counter it and strategies to detect and prevent machine learning algorithms from showing such behavior.

研究の動機と目的

• 機械学習における差別のに関する倫理的・法的基盤を検討する。特にGDPRを念頭に置く。
• 歴史的データやモデル設計から生じる機械学習システムにおけるバイアスの原因を特定する。
• アルゴリズム的差別を緩和するための観察的および因果的公平性アプローチを評価・比較する。
• 解釈可能性が自動意思決定における人間の監視と信頼を支援する役割を強調する。
• コンピュータサイエンス教育に倫理を統合し、MLにおける公平性監査を制度化することを提唱する。

提案手法

• 本稿は、道徳的哲学および法的枠組み、特にGDPRを調査し、MLにおける公平性の規範的および法的基盤を確立する。
• 等しい機会や等しいオッズといった主要な公平性基準を導入・比較し、保護群にわたる観察可能な結果に基づくものである。
• 因果推論手法を評価し、データおよびモデル行動における因果関係を分析することで差別をモデル化・是正する。
• 解釈可能な機械学習モデルの使用を推奨し、透明性を高め、アルゴリズム的意思決定の人的レビューを支援する。
• 観察的公平性指標、因果モデル、解釈可能性を組み合わせたハイブリッドアプローチを提唱し、耐性および責任の向上を図る。
• 自動車や食品の安全点検に類似した制度的メカニズム——MLシステムの公平性を監査する仕組み——の導入を要請する。

実験結果

リサーチクエスチョン

• RQ1 道徳的および法的枠組み、たとえばGDPRは、機械学習における公平性の概念をどのように規定するか？
• RQ2 機械学習システムにおけるバイアスの主な原因は何か。また、データおよびモデル設計からどのように生じるか？
• RQ3 等しい機会や等しいオッズといった観察的公平性基準は、差別のの検出および防止にどの程度有効か？
• RQ4 因果モデルは公平性をどの程度向上させられるのか。実務における限界は何か？
• RQ5 解釈可能性は、複雑で透徹性のないMLシステムにおける差別のの検出および緩和をどの程度支援できるか？

主な発見

• 2010年以降、機械学習における公平性に関する研究結果の数は2倍に増加しており、学術的および制度的関心の高まりを示している。
• 等しいオッズや等しい機会といった観察的公平性基準は有用であるが、保護属性へのアクセスに強く依存しており、データセット固有の操作に対して脆弱である。
• 因果的アプローチは差別のの本質的理解を提供するが、強い仮定とドメインの専門知識を要するため、信頼性ある実装が難しい。
• 解釈可能なモデルは人間の監視を支援し、GDPRでも義務付けられているが、複雑なモデルの性能としばしば矛盾する。
• 単一の公平性アプローチでは不十分であり、観察的、因果的、解釈可能な手法の組み合わせが、強固な公平性緩和に不可欠である。
• 本稿は、倫理的責任がML実務に組み込まれるべきであり、教育における倫理の統合と制度的監査の導入を通じて、スケールでの公平性を確保すべきだと結論づけている。