[論文レビュー] Explainable Machine Learning with Prior Knowledge: An Overview

Katharina Beckh, Sebastian Müller+7 more|arXiv (Cornell University)|May 21, 2021

Explainable Artificial Intelligence (XAI)参考文献 84被引用数 30

ひとこと要約

先行知識を組み込んで説明可能な機械学習を強化するための調査。学習パイプラインへの知識の統合、説明可能性手法への統合、説明からの知識導出という3つのアプローチに分類する。

ABSTRACT

This survey presents an overview of integrating prior knowledge into machine learning systems in order to improve explainability. The complexity of machine learning models has elicited research to make them more explainable. However, most explainability methods cannot provide insight beyond the given data, requiring additional information about the context. We propose to harness prior knowledge to improve upon the explanation capabilities of machine learning models. In this paper, we present a categorization of current research into three main categories which either integrate knowledge into the machine learning pipeline, into the explainability method or derive knowledge from explanations. To classify the papers, we build upon the existing taxonomy of informed machine learning and extend it from the perspective of explainability. We conclude with open challenges and research directions.

研究の動機と目的

• データのみの説明可能性の限界を克服するために先行知識の活用を動機づける。
• 説明可能性のためのMLにおける知識統合を分類するタクソノミー（IML）を提示する。
• 知識駆動型の説明可能なMLの3つの主要な方策を説明し、例を示す。
• この領域における未解決の課題を明らかにし、今後の研究方向を提案する。

提案手法

• 既存の研究を3つの統合パラダイムに分類する：MLパイラインへの統合、説明可能性手法への統合、説明からの知識導出。
• 説明可能性に関して知識統合を位置づけるため、情報駆動型機械学習（IML）タクソノミーを採用・拡張する。
• 訓練データ、仮説集合、学習アルゴリズム、最終仮説の各段階にわたる応用を調査する。
• 説明の形式化された事前知識と、説明をドメイン知識と一致させる仕組みとしての対話的説明を論じる。
• パイプラインへフィードバックする知識由来の洞察を考慮するよう、IMLフレームワークの拡張を提案する。

実験結果

リサーチクエスチョン

• RQ1 先行知識をどのように統合してML説明の品質と有用性を向上させることができるか？
• RQ2 知識駆動型の説明可能MLアプローチの主なカテゴリーは何で、実践上どのように異なるのか？
• RQ3 先行知識を通じて、説明を文脈依存にし、多様なユーザーに合わせられるようにするにはどうすればよいか？
• RQ4 説明可能性のための先行知識活用に残る未解決の課題は何か、そしてそれらはどのように対処できるか？

主な発見

• 先行知識を組み込むと、モデルをドメイン概念と整合させることで、MLパイプライン全体の説明可能性を向上させることができる。
• 知識は複数の段階（訓練データ、仮説集合、学習アルゴリズム、最終仮説）で統合され、解釈可能性を高めることができる。
• 説明可能性手法自体が事前知識を取り込むことができる（形式化された説明と対話的説明）、従来のパイプラインを超えて拡張する。
• 説明は新しい知識を導出し、それを学習プロセスに再統合してフィードバックループを作り出すことができる。
• 本論文は未解決の課題と研究の方向性を概説し、文脈感度とユーザー中心の説明を強調している。