[論文レビュー] Impact of Legal Requirements on Explainability in Machine Learning

Adrien Bibal, Michaël Lognoul+2 more|arXiv (Cornell University)|Jul 10, 2020

Explainable Artificial Intelligence (XAI)参考文献 9被引用数 4

ひとこと要約

本論文は、GDPR や消費者保護法、金融規制などのヨーロッパの法的枠組みが、民間および公的意思決定における機械学習モデルに課す説明可能性の水準の違いを分析している。説明可能性の4段階（主な特徴、すべての特徴、特徴の組み合わせ、完全なモデル）に法的要件をマッピングし、最も厳しい法的基準を満たせるのは解釈可能なモデルに限られ、ブラックボックスモデルは適合の面で根本的な制限を受けることを示している。

ABSTRACT

The requirements on explainability imposed by European laws and their implications for machine learning (ML) models are not always clear. In that perspective, our research analyzes explanation obligations imposed for private and public decision-making, and how they can be implemented by machine learning techniques.

研究の動機と目的

• ヨーロッパの規制が定める機械学習における説明可能性の法的義務を明確化すること。
• 民間および公的意思決定の文脈における、異なる法的文書が求める説明可能性の段階を特定・分類すること。
• 既存の機械学習技術を用いてこれらの法的要件を満たす可能性を評価すること。
• 公的部門の応用において、ブラックボックスモデルの能力と法的期待との間のギャップを浮き彫りにすること。
• 技術的説明可能性を法的基準と一致させるために、法学者とAI研究者との間でより深い協働を促すこと。

提案手法

• GDPR、指令2011/83、規則2019/1150、指令2014/65を含むヨーロッパの法的文書を体系的に分析し、説明可能性要件を抽出する。
• 説明可能性の4段階階層（主な特徴、すべての特徴、特徴の組み合わせ、完全なモデル）に法的要件を分類する。
• これらの段階を機械学習技術にマッピングする：解釈可能なモデル（例：線形モデル、決定木）、特徴の重要度手法（例：LIME、交差交差重要度）、スパarsity技術（例：Lasso）。
• ブラックボックスモデル（例：ニューラルネットワーク）が法的要件を満たす際の制限を評価する。特に公的意思決定において顕著である。
• 司法的説明のニーズに対応するため、シーケンス・トゥ・シーケンス学習やマルチタスク学習などの既存のAI手法を法的推論の文脈で検討する。
• 行政的判断と司法的判断の要件を比較し、事実的根拠および法的根拠の提示、法的主張への対応の必要性を強調する。

実験結果

リサーチクエスチョン

• RQ1 ヨーロッパの法的枠組みは、民間および公的意思決定における機械学習システムに、具体的にどのような説明可能性要件を課しているか？
• RQ2 異なる法的文書は、説明の範囲（例：特徴、組み合わせ、または完全なモデル）をどのように定義しているか？
• RQ3 解釈可能な機械学習モデルおよび後処理説明技術が、透明性の法的要件をどの程度満たせるか？
• RQ4 なぜブラックボックスモデルは、特に公的部門の応用において、最も厳しい法的基準を満たせないのか？
• RQ5 司法的判断における動機付けや主張への対応といった法的推論と、機械学習の説明可能性を一致させるにあたり、どのような主な課題があるか？

主な発見

• EUの規制において機械学習の説明可能性要件は顕著に異なり、GDPR、消費者法、金融規制がそれぞれ異なる段階の透明性を求める。
• 最も弱い要件（主な特徴の提示）は、ブラックボックスモデルにおける特徴の重要度手法（例：交差交差重要度、ランダムフォレストのOut-of-Bag誤差）によって達成可能である。
• 意思決定に使用されたすべての特徴を明示する要件は、高次元のモデルでは困難であり、Lassoによるスパarsityの強制が不可欠となる。
• 特徴の組み合わせが意思決定にどのように寄与しているかを説明することは、LIMEなどの局所的説明手法では可能であるが、複雑なモデルではグローバルに解釈可能とは言えない。
• 最も強い要件（完全なモデルの提示）は、本質的に解釈可能なモデルでのみ満たされる。ブラックボックスモデル（例：深層ニューラルネットワーク）は、完全に開示・理解不能である。
• 特に司法的文脈における公的意思決定では、事実的根拠および法的根拠の提示、法的主張への対応が求められるが、これらは現在の標準的なMLシステムでは到達不可能である。