[論文レビュー] Towards a Characterization of Explainable Systems

Dimitri Bohlender, Maximilian A. Köhl|arXiv (Cornell University)|Jan 31, 2019

Explainable Artificial Intelligence (XAI)参考文献 1被引用数 13

ひとこと要約

本論文は、説明可能性を文脈依存的であると定義し、説明、対象者集団、表現形態の間の相互作用に基づいて、説明可能システムの概念的枠組みを提案する。説明可能性を絶対的ではなく、特定の側面、聴衆、表現形態に相対的であると強調することで、ソフトウェアおよびサイバーフィジカルシステムにおける明確な要件と設計原則の設定を可能にする、統一された用語体系を導入する。

ABSTRACT

Building software-driven systems that are easily understood becomes a challenge, with their ever-increasing complexity and autonomy. Accordingly, recent research efforts strive to aid in designing explainable systems. Nevertheless, a common notion of what it takes for a system to be explainable is still missing. To address this problem, we propose a characterization of explainable systems that consolidates existing research. By providing a unified terminology, we lay a basis for the classification of both existing and future research, and the formulation of precise requirements towards such systems.

研究の動機と目的

• ソフトウェアおよびサイバーフィジカルシステムにおける説明可能システムのための共通の概念的基盤の欠如に対処すること。
• 共通の用語体系と概念的枠組みを確立することで、説明可能性分野における多様な研究を統合すること。
• 説明がシステムの側面、対象者集団、表現形態の間で体系的にどのように関連するかを明確にすること。
• ソフトウェア工学および要件工学において説明可能性を非機能的要件として位置づけること。
• 構造化された特徴付けを通じて、既存および将来の説明可能性アプローチの分類、比較、評価を可能にすること。

提案手法

• 説明を、特定のシステム的側面（説明対象X）を理解できるようにする代表的参加者A（対象者集団Gの代表）が処理可能な表現Eとして形式的に特徴づける。
• 説明対象（何が説明されるか）、対象者集団（誰が理解を必要としているか）、表現（説明がどのように伝達されるか）という3つの核心的次元を導入する。
• 哲学・科学、認知科学、ソフトウェア工学の既存概念を活用し、理論的根拠を確立する。
• 実世界の事例（高速道路を外れた自動車ナビゲーションシステム）に枠組みを適用し、ユーザーの混乱を解消する説明の仕組みを示す。
• 提案された次元に沿って、既存のXAIおよびソフトウェア工学分野の研究を分類し、それぞれのアプローチがフレームワークとどのように整合するかを示す。
• 説明可能性を非機能的要件として位置づけ、要件工学およびシステム設計プロセスへの統合を提言し、仕様化と実装のためのガイドラインを提示する。

実験結果

リサーチクエスチョン

• RQ1 ソフトウェア駆動型およびサイバーフィジカルシステムの文脈において、有効な説明とは何か？
• RQ2 異なるシステム的側面、対象者集団、表現形態にわたって、説明可能性を体系的に特徴づける方法は何か？
• RQ3 統一された概念的枠組みを用いて、既存のXAIおよびソフトウェア工学分野の研究をどのように分類・比較できるか？
• RQ4 ソフトウェア開発および要件工学において、説明可能性を非機能的要件として扱う方法は何か？
• RQ5 説明可能性が絶対的ではなく相対的であるという事実が、システム設計および評価に与える影響は何か？

主な発見

• 説明可能性はシステムの絶対的特性ではなく、特定の側面（説明対象）、対象者集団、表現形態に相対的である。
• 提示された特徴付けにより、説明対象、対象者集団、表現形態という3つの次元に沿って、既存の説明可能性アプローチを体系的に分類・比較できる。
• 説明が有効であるのは、対象者集団の代表的参加者が表現を処理し、説明対象を理解できる場合に限る。
• フレームワークにより、ソフトウェア工学への説明可能性の統合が可能となり、非機能的要件として扱うことで、要件工学およびシステム設計に影響を与える。
• 特徴付けにより、多くの現在のXAIアプローチが専門家向けに特化しており、一般ユーザーには対応していないことが明らかになり、ユーザー中心の説明設計の必要性が浮き彫りになる。
• 今後の研究では、文脈に応じた説明の質（例：正確性、信頼性）の定義や、分野特有の説明可能性水準の認証制度の開発に注力すべきである。