[論文レビュー] Explainable Artificial Intelligence (XAI): An Engineering Perspective

Fatima Hussain, Rasheed Hussain+1 more|arXiv (Cornell University)|Jan 10, 2021

Explainable Artificial Intelligence (XAI)参考文献 41被引用数 40

ひとこと要約

この論文は、XAIに対するエンジニアリング中心の見解を主張し、explainability、interpretability、そして transparency を定義し、利害関係者のニーズを概説し、解説可能性を適用すべき場所と方法を示す自動車のユースケースを提示します。

ABSTRACT

The remarkable advancements in Deep Learning (DL) algorithms have fueled enthusiasm for using Artificial Intelligence (AI) technologies in almost every domain; however, the opaqueness of these algorithms put a question mark on their applications in safety-critical systems. In this regard, the `explainability' dimension is not only essential to both explain the inner workings of black-box algorithms, but it also adds accountability and transparency dimensions that are of prime importance for regulators, consumers, and service providers. eXplainable Artificial Intelligence (XAI) is the set of techniques and methods to convert the so-called black-box AI algorithms to white-box algorithms, where the results achieved by these algorithms and the variables, parameters, and steps taken by the algorithm to reach the obtained results, are transparent and explainable. To complement the existing literature on XAI, in this paper, we take an `engineering' approach to illustrate the concepts of XAI. We discuss the stakeholders in XAI and describe the mathematical contours of XAI from engineering perspective. Then we take the autonomous car as a use-case and discuss the applications of XAI for its different components such as object detection, perception, control, action decision, and so on. This work is an exploratory study to identify new avenues of research in the field of XAI.

研究の動機と目的

• XAIの概念（explainability、interpretability、transparency）を定義し、それらが安全性が重要なAIにとって重要であることを正当化する。
• さまざまなユーザーグループに対する利害関係者と explainability 要件を特定する。
• XAIに対するエンジニアリング/数理的な視点を提供し、知覚、物体検出、制御にまたがる自動車のユースケースで説明可能性を示す。

提案手法

• XAIシステムを透明（解釈可能）モデルとポストホックな説明可能性手法に分類する。
• モデルのアルゴリズム的透明性、分解可能性、およびシミュラビリティのレベルを説明する。
• 利害関係者別の説明可能性要件と役割ベースの説明可能性ニーズを検討する。
• 自動運転車におけるXAIの数理的枠組みを提示し、物体検出と動き予測の経路を含む。
• 既存のXAI手法をレビューし、エンジニアリングの視点にどのように適用されるかを示す。

実験結果

リサーチクエスチョン

• RQ1 XAIの利害関係者は誰で、彼らの説明可能性要件は何か？
• RQ2 自動運転車のような安全上重要なシステムにおいて、XAIをエンジニアリングおよび数理的観点でどのように位置づけることができるか？
• RQ3 自動運転車のどの構成要素がXAIの恩恵を最も受け、どの手法が適しているか？
• RQ4 現在のXAI実践と重大領域におけるエンジニアリングニーズとの間にはどのようなギャップが存在するか？

主な発見

• XAIはexplainability、interpretability、そしてtransparencyから成り、transparencyがこれらを包含する支配的な側面である。
• 透明なモデル（例：linear、decision trees、Bayesian networks）は、アルゴリズム的透明性、分解可能性、シミュラビリティの異なる程度を提供する。
• ポストホックな説明可能性手法とモデル誘導はブラックボックスモデルから説明を導出するのに用いられ、局所的対全体的忠実性に留意する。
• 自動車のユースケースは、知覚、物体検出、局所化、動き予測、ルート/意思決定など、XAIの考慮事項が跨ることを示している。
• 数理的視点は、相互作用するエージェントのシステムと微分方程式を用いて、自動車の特定の構成要素の挙動と説明をモデル化することでXAIを自動車に位置づける。