[论文解读] Abduction and Argumentation for Explainable Machine Learning: A Position Survey

Antonis Kakas, Loizos Michael|arXiv (Cornell University)|Oct 24, 2020

Topic Modeling参考文献 57被引用 11

一句话总结

本文将溯因和论证确立为可解释机器学习（XML）的基础推理机制，展示了溯因如何从观察中生成假设，以及论证如何解决竞争性解释之间的冲突。本文提出一个统一框架，整合这两种推理形式，以增强模型的透明度、对不完整或不一致数据的鲁棒性，以及通过基于逻辑和可废止推理的结构化、可辩护解释实现的可解释性。

ABSTRACT

This paper presents Abduction and Argumentation as two principled forms for reasoning, and fleshes out the fundamental role that they can play within Machine Learning. It reviews the state-of-the-art work over the past few decades on the link of these two reasoning forms with machine learning work, and from this it elaborates on how the explanation-generating role of Abduction and Argumentation makes them naturally-fitting mechanisms for the development of Explainable Machine Learning and AI systems. Abduction contributes towards this goal by facilitating learning through the transformation, preparation, and homogenization of data. Argumentation, as a conservative extension of classical deductive reasoning, offers a flexible prediction and coverage mechanism for learning -- an associated target language for learned knowledge -- that explicitly acknowledges the need to deal, in the context of learning, with uncertain, incomplete and inconsistent data that are incompatible with any classically-represented logical theory.

研究动机与目标

• 确立溯因和论证作为适合可解释机器学习（XML）的、有原则的、基于逻辑的推理形式。
• 解决经典逻辑在处理现实世界机器学习应用中常见的不完整、不一致或不确定数据时的局限性。
• 将溯因与论证统一为一个连贯的框架，以支持学习系统中的解释生成、假设形成和冲突解决。
• 证明论证可作为演绎的保守扩展，支持符号学习中的灵活预测和覆盖能力。
• 表明基于论证的语义可建模学习过程，包括聚类、规则学习和假设精炼，并具备明确处理竞争性解释的机制。

提出的方法

• 使用溯因推断隐藏或未观测到的假设，以解释观测数据，确保与理论一致，并在需要时保持最小性。
• 应用论证框架（AF = ⟨Args, Att, Def⟩）建模竞争性论证及其相互攻击或防御关系，实现冲突解决。
• 采用论证语义——可信蕴含和怀疑蕴含——在不确定或不一致条件下确定哪些结论可被接受。
• 将论证作为学习的目标语言，其中假设以带优先级的结构化论证形式表示，例如通过规则链或继承关系。
• 利用PAC学习和极限学习等学习框架，形式化从数据中归纳论证结构的过程。
• 应用A-ART和MAICL等技术，利用论证从竞争性学习聚类或假设中进行选择，优先级机制基于具体性或新近性。

实验结果

研究问题

• RQ1 溯因为什么机制能够用于生成机器学习中的解释，特别是用于数据转换和同质化？
• RQ2 论证在何种方式下可作为经典演绎的灵活、保守扩展，以处理学习中的不确定性和不一致性？
• RQ3 论证框架如何用于建模并解决竞争性学习假设或预测之间的冲突？
• RQ4 从数据中学习论证结构（如攻击关系、论证优先级）的形式和计算属性是什么？
• RQ5 如何将溯因与论证整合，以生成可解释、可辩护且鲁棒的机器学习系统？

主要发现

• 溯因通过识别能解释观测的最小且一致的假设集合，实现解释性假设的生成，使其特别适用于数据准备和假设形成。
• 论证提供了一种正式机制，用于处理冲突性解释，使系统能够通过联盟形成和防御关系来捍卫结论。
• 将论证与学习相结合，可实现对覆盖范围和预测的建模，且对不完整或不一致数据具有鲁棒性，超越经典蕴含关系。
• 在PAC或极限学习语义下学习论证框架是可行的，并可应用于现实世界问题，如规则学习、异常处理和聚类选择。
• A-ART和MAICL等方法表明，论证可有效解决竞争性学习聚类或假设之间的冲突，其优先级基于继承关系或新近性。
• 近期方法如SLAP和Machine Coaching表明，论证可用于在线、迭代学习环境，其优先级可基于数据或人类反馈动态更新。