[論文レビュー] Four Principles of Explainable AI as Applied to Biometrics and Facial Forensic Algorithms

P. Jonathon Phillips, Mark A. Przybocki|arXiv (Cornell University)|Feb 3, 2020

Explainable Artificial Intelligence (XAI)参考文献 14被引用数 26

ひとこと要約

本論文は、顔認識およびバイオメトリクスシステムにおける説明可能性を向上させるために、四つの原則—説明可能性、解釈可能性、説明の正確性、知識の限界—を提案する。これらの原則を四つの事例研究を通じて適用し、正確でユーザーに適合した説明を生成する際の課題を示し、特に人間の直感を超える能力を有するシステムにおいては、新たな評価手法およびツールの必要性を強調する。

ABSTRACT

Traditionally, researchers in automatic face recognition and biometric technologies have focused on developing accurate algorithms. With this technology being integrated into operational systems, engineers and scientists are being asked, do these systems meet societal norms? The origin of this line of inquiry is `trust' of artificial intelligence (AI) systems. In this paper, we concentrate on adapting explainable AI to face recognition and biometrics, and we present four principles of explainable AI to face recognition and biometrics. The principles are illustrated by $\it{four}$ case studies, which show the challenges and issues in developing algorithms that can produce explanations.

研究の動機と目的

• AI駆動のバイオメトリクスシステムに対する社会的信頼の増大する要請に応えるために、説明可能性をコアなシステム的性質として形式化すること。
• 高リスクなバイオメトリクス意思決定において、正確で理解可能で、ユーザーの期待に一致する説明を開発するうえでの主な課題を特定すること。
• 技術的AIパフォーマンスと社会的規範の間の溝を埋めるために、法医学的同定やアクセス制御といった実世界の応用に説明可能性を根拠づけること。
• 開発者および政策立案者に、信頼性があり、透明で公正なバイオメトリクスシステムの設計を支援するフレームワークを提供すること。
• 人間の直感を超える能力を有するシステムにおける説明を支援するための、新たな評価技術および専用ツールの必要性を強調すること。

提案手法

• バイオメトリクスおよび顔認識フォレンジックスシステムに特化した説明可能なAIの四つの核心的原則を定義する：説明可能性、解釈可能性、説明の正確性、知識の限界。
• 四つの実世界の事例研究を通じてこれらの原則を適用する：バイオメトリクスアクセス制御、低品質音声における音声認識、人間を上回る性能を示すAIシステム、法医学的検査官との協働。
• エンドユーザー、監査者、特別に訓練された専門家といった異なるユーザー層に合わせたマルチサイドの説明を採用する。
• 説明を保存して監査および責任追及の根拠とする重要性を強調するが、これはエンドユーザーにリアルタイムで提示されない場合でも同様に重要である。
• 説明が理解可能であるだけでなく、正確で意味を持つ必要があることを強調し、信頼性と公平性を維持する。
• 視覚化、口頭説明、ハイブリッド形式を含む多様な説明モードのための新たな評価技術の開発を提唱する。

実験結果

リサーチクエスチョン

• RQ1 説明可能なAIの原則を、バイオメトリクスおよび顔認識フォレンジックスシステムに体系的に適用することで、社会的信頼をどのように向上させられるか？
• RQ2 多様なユーザー層にわたって正確で解釈可能な説明を生成するうえでの主な課題は何か？
• RQ3 人間の直感を超える能力を有するシステムが、説明の受容性および設計にどのように影響を与えるか？
• RQ4 説明の正確性と知識の限界が、バイオメトリクス意思決定における公平性と信頼性を確保するために果たす役割は何か？
• RQ5 大規模なバイオメトリクスインfraストラクチャ、例えば国家レベルのデータベースにおいて、説明はどのように効果的に生成・保存・配布されるべきか？

主な発見

• 説明可能性、解釈可能性、説明の正確性、知識の限界という四つの原則は、バイオメトリクスAIシステムにおける説明可能性を高める基盤となるフレームワークを提供する。
• 説明は異なるユーザー層に合わせてカスタマイズされなければならないため、すべてのユーザーが同時に受け取らない場合でも、マルチサイドの説明生成が不可欠である。
• 現在のバイオメトリクスおよびコンピュータビジョン分野の文献では、説明可能性の原則にほとんど注目されていないため、顕著な研究ギャップが存在する。
• 人間の直感を超える能力を有するシステム、例えば優れた正確性や新しい推論経路を有するシステムは、人間の直感を揺るがし、専門家による解釈のための新たなツールを必要とする。
• 説明の正確性は極めて重要である：事実誤認や誤解を招く説明でさえ、理解可能であっても不十分である。
• 国家バイオメトリクスデータベースのような知的インfraストラクチャでは、AI意思決定を一般市民および政策立案者に解釈・伝達するための特別に訓練された専門家が必要となる。