[論文レビュー] Machine Reasoning Explainability

Kristijonas Čyras, Ramamurthy Badrinath+6 more|arXiv (Cornell University)|Sep 1, 2020

Explainable Artificial Intelligence (XAI)参考文献 246被引用数 4

ひとこと要約

本論文は、論理的アプローチである議論、論理プログラミング、制約プログラミング、自動定理証明を強調しながら、機械的推論（MR）における説明可能性技術の包括的で選択的な概要を提供する。本研究は、推論に基づく説明、帰納的推論、戦略的正当化といった分野における数十年にわたるMR説明可能性の研究を強調し、これらが現代の説明可能なAI（XAI）の基盤をなしていることを示し、AIシステムにおける透明性と信頼性を高めるための知見を提供する。

ABSTRACT

As a field of AI, Machine Reasoning (MR) uses largely symbolic means to formalize and emulate abstract reasoning. Studies in early MR have notably started inquiries into Explainable AI (XAI) -- arguably one of the biggest concerns today for the AI community. Work on explainable MR as well as on MR approaches to explainability in other areas of AI has continued ever since. It is especially potent in modern MR branches, such as argumentation, constraint and logic programming, planning. We hereby aim to provide a selective overview of MR explainability techniques and studies in hopes that insights from this long track of research will complement well the current XAI landscape. This document reports our work in-progress on MR explainability.

研究の動機と目的

• 40年にわたる機械的推論（MR）における説明可能性に関する研究を統合・文脈化すること。
• 現在の説明可能なAI（XAI）研究におけるギャップを埋めるために、成熟した記号的技術であるMR技術が現代のXAIで十分に活用されていない点を強調すること。
• MRに基づく説明可能性、特に推論に基づく、帰納的、議論的な説明が、AIシステムにおける透明性、正当化、ユーザーの信頼をどのように向上させられるかを示すこと。
• 論理プログラミング、制約プログラミング、自動定理証明を含む主要なMR分野における説明可能性技術の構造的概要を提供すること。
• 記号的MR説明可能性手法をより広範なXAIフレームワークに統合することで、AIエージェントにおける正当化、批判、協調性の向上を促進することを提言すること。

提案手法

• 人間-コンピュータインタラクションおよび認知科学の原則に従い、説明を属性的、対照的、行動的タイプに分類する。
• 公理特定、積項、帰納的推論などの技術を用いて、記号的システムにおける推論手順を追跡する推論に基づく説明を分析する。
• 説明生成のためのアブductive論理プログラミング（ALP）、誘導的論理プログラミング（ILP）、およびアンサーセットプログラミング（ASP）を含む論理プログラミングのアプローチをレビューする。
• SATソルブや一般CPを含む制約プログラミング（CP）技術を検討し、制約充足および最適化意思決定の説明可能性を分析する。
• 自動定理証明（ATP）および証明アシスタントを調査し、論理的導出の形式的で検証可能な説明を生成する。
• 構造的な対話、正当化、批判を介して説明可能な意思決定を生成する議論フレームワークを検討する。特に、意思決定が対話と批判を通じて正当化される必要があるマルチエージェントシステムにおいて有効である。

実験結果

リサーチクエスチョン

• RQ1 過去40年間において、機械的推論における記号的・論理的アプローチは、説明可能性にどのように寄与してきたか。
• RQ2 MRにおけるトレース的、戦略的、深層的説明の主な違いは何であり、それらはユーザーの理解と信頼をどのように支援するか。
• RQ3 帰納的推論、議論、制約解決は、AIシステムにおける行動的および対照的説明を生成するために、どのように活用できるか。
• RQ4 ASP、ALP、ATPなどの現代的な記号的AI技術は、自律エージェントおよびマルチエージェントシステムにおける説明可能な意思決定にどのように寄与するか。
• RQ5 MRからの記号的説明可能性は、正当化、批判、協調性の面で、現在のXAIの限界をどのように克服できるか。

主な発見

• 機械的推論は長年にわたり説明可能性に貢献しており、1970年代にさかのぼる基盤的研究が存在する。特に、トレース説明から戦略的・深層的説明へと進化した専門家システムがその例である。
• 公理特定、帰納的推論、積項分析により、結論を導くために必要な最小限の知識を正確に特定でき、正当化と監査可能性が向上する。
• 議論フレームワークは、特にマルチエージェントシステムにおいて、対照的および行動的説明を生成する強固なメカニズムを提供する。ここでは、意思決定が対話と批判を通じて正当化される必要がある。
• 制約プログラミングおよびSATソルブ技術により、最適化および設定タスクにおける説明可能な推論が可能となり、証明トレースや不充足コアから説明が導出される。
• 自動定理証明および証明アシスタントは、論理的導出の検証可能で形式的な説明を生成し、記号的推論における正しさと透明性を支援する。
• アンサーセットプログラミング（ASP）や誘導的論理プログラミング（ILP）などの記号的アプローチにより、特にネットワークスライシングや計画といった複雑で構造化されたドメインにおいて、説明可能な知識獲得と推論が可能になる。