[論文レビュー] Causality-Inspired Taxonomy for Explainable Artificial Intelligence

Pedro C. Neto, Tiago Gonçalves+5 more|arXiv (Cornell University)|Aug 19, 2022

Explainable Artificial Intelligence (XAI)被引用数 15

ひとこと要約

本稿は、バイオメトリクスシステムにおける説明可能な人工知能（XAI）の因果関係にインspiredされた分類法を提案し、因果推論を統合することで、ディープラーニングモデルのバイアスと不透明性を解消する。相関関係と因果関係の区別により、モデルの忠実性と公平性が向上し、内在的解釈可能性と事後解釈手法を組み合わせた、信頼できる解釈可能なバイオメトリクスへの構造的アプローチを提供する。

ABSTRACT

As two sides of the same coin, causality and explainable artificial intelligence (xAI) were initially proposed and developed with different goals. However, the latter can only be complete when seen through the lens of the causality framework. As such, we propose a novel causality-inspired framework for xAI that creates an environment for the development of xAI approaches. To show its applicability, biometrics was used as case study. For this, we have analysed 81 research papers on a myriad of biometric modalities and different tasks. We have categorised each of these methods according to our novel xAI Ladder and discussed the future directions of the field.

研究の動機と目的

• ディープラーニングに基づくバイオメトリクスシステムの不透明性と潜在的なバイアスに対処し、信頼性と公平性を損なわないようにする。
• 因果的推論に基づいた、バイオメトリクスにおける説明可能なAI（XAI）の体系的分類法を構築する。
• 人間の認識と整合し、誤った相関関係への依存を減らす、因果的に整合性のある解釈可能なモデルへの今後の研究を導く。
• 事後解釈手法と内在的解釈可能なアーキテクチャを統合し、強固なモデルの解釈可能性を実現する。
• 表面的相関関係ではなく、因果的要因を特定・是正することで、バイオメトリクスシステムにおける人種的バイアスを軽減する。

提案手法

• 相関関係ではなく因果関係を重視する、XAIをバイオメトリクスに体系化する因果関係にインスパイアされた分類法を提案する。
• 訓練データにおける表面的相関関係に起因するバイアスを特定・是正するため、因果推論技術を統合する。
• 透明性を最初から設計段階で組み込む、内在的解釈可能なモデルの使用を提唱する。
• モデルアーキテクチャと事後解釈手法を組み合わせ、解釈性の向上に向けたフィードバックループを提供する。
• モデルの不透明性を増加させないよう、マルチモーダルデータ統合は、適合性と解釈可能性がある場合に限定して行うことを強調する。
• 説明をユーザーの認識や事前の知識と一致させることで、信頼性を高め、認知的不協和を軽減する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして因果関係を体系的に説明可能なAI（XAI）に統合し、バイオメトリクスシステムの信頼性を向上させることができるか？
• RQ2 バイオメトリクス意思決定における表面的相関関係と真の因果要因の主な違いは何か。また、それらをどのように区別できるか？
• RQ3 説明手法をどのようにして人間の認識に合わせることで、ユーザーの信頼性と受容性を高められるか？
• RQ4 マルチモーダルデータを統合する際、モデルの解釈可能性を損なわずに実現する方法は何か？
• RQ5 内在的解釈可能なモデルは、バイオメトリクスにおけるディープラーニングのブラックボックス性をどのように軽減するか？

主な発見

• 本稿は、多くのバイオメトリクスシステムが、人種と関連する背景特徴といった表面的相関関係に依存しており、これが不平等な予測を引き起こしていると特定した。これは因果分析によって是正可能である。
• 事後解釈手法だけではブラックボックス問題を解決できない。強固な解釈可能性を得るには、内在的解釈可能なモデルと組み合わせる必要がある。
• 因果推論は、プレゼンテーションアタック検出や顔認識における、バイオメトリクスシステムの人口統計的バイアスを検出し是正するために不可欠である。
• ユーザーの事前の信念や認識と矛盾する説明は、信頼されにくいため、ユーザーに合わせた説明設計の必要性が浮き彫りになる。
• マルチモーダルデータ統合は説明の包括性を向上させられるが、因果的適合性のチェックを慎重に実施しないと、不透明性が増すリスクがある。
• 提案された分類法は、公平で、透明性が高く、信頼性のあるバイオメトリクスシステムの今後の開発に向けた体系的ロードマップを提供する。