[論文レビュー] Argumentative XAI: A Survey

Kristijonas Čyras, Antonio Rago+3 more|arXiv (Cornell University)|May 24, 2021

Explainable Artificial Intelligence (XAI)被引用数 3

ひとこと要約

本調査では、計算的証明を活用してAI意思決定の説明を生成するフレームワーク「アーギュメンテーション型XAI」を紹介する。既存のアプローチを説明タイプ（内在的／事後的）、証明フレームワーク（例：抽象的、双極的、反駁可能）、説明形式（例：論争木、対話）で分類し、説明可能性、計算効率、機械学習および反事実的推論との統合に関する今後の研究のロードマップを提示する。

ABSTRACT

Explainable AI (XAI) has been investigated for decades and, together with AI itself, has witnessed unprecedented growth in recent years. Among various approaches to XAI, argumentative models have been advocated in both the AI and social science literature, as their dialectical nature appears to match some basic desirable features of the explanation activity. In this survey we overview XAI approaches built using methods from the field of computational argumentation, leveraging its wide array of reasoning abstractions and explanation delivery methods. We overview the literature focusing on different types of explanation (intrinsic and post-hoc), different models with which argumentation-based explanations are deployed, different forms of delivery, and different argumentation frameworks they use. We also lay out a roadmap for future work.

研究の動機と目的

• 計算的証明フレームワークに焦点を当て、説明可能AI（XAI）における証明に基づくアプローチの包括的概要を提供すること。
• 説明タイプ（内在的対比して事後的）、使用される証明フレームワーク（例：抽象的、双極的、反駆動的）および提供される説明形式に基づいて、既存のXAI手法を分類すること。
• 現在の研究におけるギャップを特定し、アーギュメンテーション型XAIにおける今後の開発のための構造的ロードマップを提示すること。
• アーギュメンテーション型説明と機械学習モデルおよび反事実的推論との統合を検討すること。
• 複雑なAIシステムにおける解釈可能で弁証的根拠のある説明を可能にする証明フレームワークの可能性を強調すること。

提案手法

• 説明がシステムに組み込まれている（内在的）か、事後に追加されたものかに基づいてXAIアプローチを分類する。
• 抽象的証明（AA）、双極的証明（BA）、反駆動的証明（DA）を含む、XAIで用いられる証明フレームワーク（AFs）をレビュー・分類し、攻撃と支持の扱いに差を設ける。
• 論争木（DTs）、対話、およびグラウンド、プレファーレンス、完全な拡張といった意味論を備えた証明フレームワークを含む、説明の配信メカニズムを分析する。
• AFsからの説明抽出の計算複雑性を検討し、特定のAFタイプ（例：[ˇCyras et al., 2019b]）における tractability 結果を含む。
• アーギュメンテーション型XAIと、反事実的説明（CFs）や論理ベースの説明といった既存の説明パラダイムとの関連を提案する。
• 意味論、計算効率、応用拡張に焦点を当てた研究ロードマップを提示する。特に機械学習および確率的モデルにおける応用に注目する。

実験結果

リサーチクエスチョン

• RQ1 計算的証明フレームワークは、XAIにおける説明を生成するために体系的に分類・適用可能か？
• RQ2 内在的および事後的アーギュメンテーション型説明の主な違いは何か。それぞれが最も効果的な文脈は何か？
• RQ3 異なる証明フレームワーク（例：AA、BA、DA）は、論争木や対話といった異なる説明形式をどのようにサポートするか？
• RQ4 SHAP や反事実的説明、論理ベースの説明といった既存の説明手法は、どの程度アーギュメンテーション型説明として再解釈可能か？
• RQ5 証明フレームワークからの説明抽出および推論における主な計算的課題は何か。それらはどのように解決可能か？

主な発見

• アーギュメンテーション型XAIは、攻撃と支持を伴う弁証的プロセスとしての推論をモデル化することにより、柔軟かつ理論的根拠を持つ説明手法を提供する。
• グラウンド拡張から導出される論争木（DTs）は、主張者と反対者による推論を模倣する対話型説明の生成を可能にする。
• いくつかのAFベースの説明手法は、多項式時間で妥当性と完全性を保証するため、計算が容易であることが示されている。特に、[ˇCyras et al., 2019b] の手法はその例である。
• 特に関係ベースの反事実的説明（CFs）は、アーギュメンテーション型支持および攻撃関係と整合するため、アーギュメンテーション型XAIと統合する大きな可能性を有する。
• 進展は見られるものの、AFからの説明抽出の計算複雑性はまだ十分に調査されておらず、体系的な研究が求められる。
• 調査では、機械学習モデル、特に分類および確率的設定において、アーギュメンテーション型XAIの応用に関する顕著な研究ギャップを特定した。これらの分野は本質的に弁証的性質を有しているにもかかわらずである。