[論文レビュー] On the Multiple Roles of Ontologies in Explainable AI

Roberto Confalonieri, Giancarlo Guizzardi|arXiv (Cornell University)|Nov 8, 2023

Explainable Artificial Intelligence (XAI)被引用数 6

ひとこと要約

本稿では、オントロジーが説明可能なAI（XAI）において3つの重要な役割を果たすと提唱している：一貫性のある説明のための参照モデルの構築、意味的拡張による常識的推論の支援、および個人化・人間中心の説明のための知識複雑性の管理。AIシステムとオントロジーを統合することで、説明の透明性、相互運用性、およびユーザーの理解可能性が向上するが、評価と統合における課題は依然として残っている。

ABSTRACT

This paper discusses the different roles that explicit knowledge, in particular ontologies, can play in Explainable AI and in the development of human-centric explainable systems and intelligible explanations. We consider three main perspectives in which ontologies can contribute significantly, namely reference modelling, common-sense reasoning, and knowledge refinement and complexity management. We overview some of the existing approaches in the literature, and we position them according to these three proposed perspectives. The paper concludes by discussing what challenges still need to be addressed to enable ontology-based approaches to explanation and to evaluate their human-understandability and effectiveness.

研究の動機と目的

• オントロジーが人間中心の説明可能なAIシステムを進展させるために果たす多様な役割を特定・分析すること。
• 現在のXAIアプローチが機械的説明に限定的である一方で、因果的および文脈的推論を軽視しているというギャップを解消すること。
• 既存のXAI技術を3つの概念的視点（参照モデル化、常識的推論、知識の精錬）に位置づけること。
• 形式的知識に根ざした解釈可能で追跡可能かつ個人化された説明を可能にするためにオントロジーの必要性を強調すること。
• オントロジーに基づく説明の人間理解可能性と有効性を評価するうえでの未解決の課題を特定すること。

提案手法

• XAIアプローチを3つの視点に分類する：参照モデル化、常識的推論、知識の精錬／複雑性管理。
• 形式的オントロジーを用いて、説明生成のための共通言語として機能する共有概念モデルを定義する。
• 記号的およびニューロ記号的AIシステムとオントロジーを統合し、ハイブリッド推論と説明の拡張を可能にする。
• 行動傾向、因果関係、価値基準に基づく推論のオントロジカル表現を活用し、因果的および反事後的説明を支援する。
• オントロジー上で論理的推論を実行し、出典が明確で意味的に整合性のある説明を生成する。
• ユーザー中心のメトリクスと心理測定的アセスメントを用いた説明品質の評価フレームワークを提案する。

実験結果

リサーチクエスチョン

• RQ1 オントロジーは、XAIにおける説明の一貫性と再利用可能性を向上させるための形式的参照モデルとしてどのように機能できるか？
• RQ2 オントロジーは、AIシステムにおける常識的推論をどのように強化し、因果的または反事後的説明を支援できるか？
• RQ3 オントロジーは、知識の複雑性をどのように管理し、個人化・ユーザー適応型の説明を可能にするか？
• RQ4 オントロジーに基づく説明の人間理解可能性と有効性を評価するうえでの主な課題は何か？
• RQ5 基礎的およびドメインオントロジーは、既存のXAIパイプラインにどのように統合され、透明性と信頼性を向上させることができるか？

主な発見

• オントロジーは、異なるドメインやシステム間で説明の相互運用性と再利用可能性を向上させる形式的で共有された参照モデルを提供する。
• 構造化された知識上で論理的推論を可能にすることで、オントロジーはブラックボックスモデルの挙動をはるかに超えた意味的に豊かで文脈に適した説明の生成を支援する。
• オントロジーとAIモデルの統合によりハイブリッド推論が実現され、意思決定の透明性と追跡可能性が向上する。
• オントロジーは因果関係と価値基準に基づく推論のモデリングを可能にし、倫理的およびドメイン固有の原則に根ざした説明を可能にする。
• その可能性にもかかわらず、現在のアプローチでは、オントロジーに基づく説明の人間理解可能性と因果的有効性を評価する共通の基準が欠如している。
• 基礎的およびドメインオントロジーをXAIシステムに統合するうえでの主な課題が残っており、エンドユーザーが管理可能で理解可能な説明を提供することが依然として困難である。