[論文レビュー] Abduction and Argumentation for Explainable Machine Learning: A Position Survey

Antonis Kakas, Loizos Michael|arXiv (Cornell University)|Oct 24, 2020

Topic Modeling参考文献 57被引用数 11

ひとこと要約

本稿は、説明可能な機械学習（XML）における根幹的推論メカニズムとして帰納的推論と議論的推論を位置づけ、観察から仮説を生成する帰納的推論と、競合する説明の間で対立を解消する議論的推論の役割を示している。論理的かつ退行的推論に裏付けられた構造的で防衛可能な説明を提供する統合的フレームワークを提唱し、モデルの透明性、不完全または不整合なデータに対する耐性、解釈可能性の向上を実現する。

ABSTRACT

This paper presents Abduction and Argumentation as two principled forms for reasoning, and fleshes out the fundamental role that they can play within Machine Learning. It reviews the state-of-the-art work over the past few decades on the link of these two reasoning forms with machine learning work, and from this it elaborates on how the explanation-generating role of Abduction and Argumentation makes them naturally-fitting mechanisms for the development of Explainable Machine Learning and AI systems. Abduction contributes towards this goal by facilitating learning through the transformation, preparation, and homogenization of data. Argumentation, as a conservative extension of classical deductive reasoning, offers a flexible prediction and coverage mechanism for learning -- an associated target language for learned knowledge -- that explicitly acknowledges the need to deal, in the context of learning, with uncertain, incomplete and inconsistent data that are incompatible with any classically-represented logical theory.

研究の動機と目的

• 説明可能な機械学習（XML）に適した、原則的かつ論理的根拠を持つ帰納的推論と議論的推論の形式を確立すること。
• 現実世界の機械学習応用で一般的な不完全、不整合、または不確実なデータを扱う際の古典論理の限界を克服すること。
• 帰納的推論と議論的推論を統合し、説明生成、仮説形成、対立解決を支援する一貫性のあるフレームワークを構築すること。
• 議論的推論が演繹の保守的拡張として機能し、記号的学習における柔軟な予測とカバレッジを可能にすることを示すこと。
• 議論的推論に基づく意味論が、クラスタリング、規則学習、仮説の精練を含む学習プロセスをモデル化できることを示し、競合する説明を処理する明示的なメカニズムを提供すること。

提案手法

• 観察データを説明する最小で整合性のある仮説のセットを特定することで、帰納的推論を用いて隠れたまたは観測されない仮説を推論し、理論と整合性を保ちつつ、必要に応じて最小性を確保する。
• 競合する議論とそれらの相互攻撃・防御関係をモデル化するため、議論フレームワーク（AF = ⟨Args, Att, Def⟩）を適用し、対立の解消を可能にする。
• 信用的および懐疑的含意の議論的意味論を用いて、不確実性や不整合性下でもどの結論が受け入れ可能かを決定する。
• 仮説を優先順位を備えた構造的議論として表現する学習のターゲット言語として議論的推論を統合し、例えば規則の連結や包含関係によって実現する。
• PAC学習や限界における学習の枠組みを用いて、データから議論的構造（攻撃関係、議論の優先順位など）を誘導する形式的定式化を実施する。
• A-ARTやMAICLのような技術を活用し、優先順位を包含関係や最新性に基づいて設定することで、競合する学習済みクラスターや仮説の選択に議論的推論を応用する。

実験結果

リサーチクエスチョン

• RQ1 帰納的推論は、特にデータの変換と均一化を伴う機械学習において、どのように説明の生成メカニズムとして機能するか？
• RQ2 議論的推論は、学習における不確実性や不整合性を扱うために、古典的演繹の柔軟で保守的な拡張としてどのように機能するか？
• RQ3 議論的フレームワークは、競合する学習済み仮説や予測の間で生じる対立をどのようにモデル化し、解消するか？
• RQ4 データから学習される議論的構造（例えば攻撃関係、議論の優先順位）の形式的および計算的性質は何か？
• RQ5 帰納的推論と議論的推論を統合することで、解釈可能で防衛可能かつ耐性のある機械学習システムをどのように実現できるか？

主な発見

• 帰納的推論は、観察を説明する最小で整合性のある仮説のセットを特定することで、データ準備や仮説形成に最適な説明的仮説の生成を可能にする。
• 議論的推論は、協同形成や防御関係を通じて反論に対して結論を防衛できる、対立する説明を処理する形式的メカニズムを提供する。
• 学習と議論的推論の統合により、古典的含意を超えて不完全または不整合なデータに対しても耐性のある、カバレッジと予測のモデル化が可能になる。
• PAC学習や限界における学習の意味論に基づく議論的フレームワークの学習は実現可能であり、規則学習、例外処理、クラスタ選択といった実世界の問題に応用可能である。
• A-ART や MAICL といったアプローチは、包含関係や最新性に基づく優先順位を用いることで、議論的推論が競合する学習済みクラスターや仮説の対立を効果的に解消できることを示している。
• SLAP やマシンコーチングといった最近の手法は、データや人間のフィードバックに応じて優先順位を動的に更新することで、オンラインで反復的に学習する状況でも議論的推論が有効に利用できることを示している。