[논문 리뷰] Abduction and Argumentation for Explainable Machine Learning: A Position Survey

Antonis Kakas, Loizos Michael|arXiv (Cornell University)|2020. 10. 24.

Topic Modeling참고 문헌 57인용 수 11

한 줄 요약

이 논문은 설명 가능한 기계학습(Explainable Machine Learning, XML)을 위한 근본적인 추론 메커니즘으로 추론(abduction)과 논증(argumentation)을 위치짓는다. 추론은 관찰된 데이터로부터 가설을 생성하는 데 기여하고, 논증은 경쟁적인 설명 간의 갈등을 해결하는 데 기여한다. 이 논문은 이러한 추론 방식을 통합하여 단일 프레임워크를 제안함으로써 모델의 투명성, 불완전하거나 일관성 없는 데이터에 대한 강건성, 그리고 논리적이고 취약성 있는 추론에 기반한 체계적인, 방어 가능한 설명을 통한 해석 가능성 향상을 도모한다.

ABSTRACT

This paper presents Abduction and Argumentation as two principled forms for reasoning, and fleshes out the fundamental role that they can play within Machine Learning. It reviews the state-of-the-art work over the past few decades on the link of these two reasoning forms with machine learning work, and from this it elaborates on how the explanation-generating role of Abduction and Argumentation makes them naturally-fitting mechanisms for the development of Explainable Machine Learning and AI systems. Abduction contributes towards this goal by facilitating learning through the transformation, preparation, and homogenization of data. Argumentation, as a conservative extension of classical deductive reasoning, offers a flexible prediction and coverage mechanism for learning -- an associated target language for learned knowledge -- that explicitly acknowledges the need to deal, in the context of learning, with uncertain, incomplete and inconsistent data that are incompatible with any classically-represented logical theory.

연구 동기 및 목표

• 설명 가능한 기계학습(XML)에 적합한 원칙적이고 논리적으로 기반한 추론 방식으로서 추론과 논증을 정립하기.
• 실제 기계학습 응용에서 흔히 발생하는 불완전하거나 일관성 없거나 불확실한 데이터를 다루는 데 있어 고전적 논리의 한계를 해결하기.
• 추론과 논증을 통합하여 설명 생성, 가설 형성, 갈등 해결을 지원하는 유일한 프레임워크를 구축하기.
• 논증이 추론의 보존적 확장으로서 기능할 수 있음을 보여주어 기호적 학습에서 예측의 유연성과 커버리지 가능성을 보장하기.
• 논증 기반 의미론이 클러스터링, 규칙 학습, 가설 정련과 같은 학습 과정을 모델링할 수 있으며, 경쟁적 설명을 다루는 명시적 메커니즘을 제공할 수 있음을 보여주기.

제안 방법

• 관찰된 데이터를 설명할 수 있는 은폐되거나 관측되지 않은 가설을 추론하여 이론과 일관성을 확보하고, 필요에 따라 최소성 조건을 만족시키기.
• 경쟁적 논거와 그 상호 공격 또는 방어 관계를 모델링하기 위해 논증 프레임워크(AF = ⟨Args, Att, Def⟩)를 적용하여 갈등 해결을 가능하게 하기.
• 수용 가능한 결론이 불확실성 또는 일관성 없는 상황에서 어떤지 판단하기 위해 신뢰적(entailment) 및 경계적(credulous) 추론 의미론을 활용하기.
• 가설을 우선순위가 부여된 구조적 논거로 표현하는 방식으로 논증을 학습의 대상 언어로 통합하기, 예를 들어 규칙 체인 또는 포함관계(subsumption)를 통해.
• PAC 학습 및 한계에서의 학습(learning in the limit)과 같은 학습 프레임워크를 활용하여 데이터로부터 논증 구조를 유도하는 것을 형식화하기.
• A-ART 및 MAICL와 같은 기법을 적용하여 우선순위 기반(특성 또는 최신성 기반)으로 경쟁적 학습된 클러스터나 가설 간의 선택을 논증을 통해 수행하기.

실험 결과

연구 질문

• RQ1 어떻게 추론이 기계학습에서 설명 생성의 수단으로 기능할 수 있으며, 특히 데이터 변환 및 통일화에 기여할 수 있는가?
• RQ2 논증은 불확실성과 일관성 없는 데이터를 다루기 위해 고전적 추론에 대해 어떤 방식으로 민감하고 보존적인 확장으로서 작용할 수 있는가?
• RQ3 논증 프레임워크는 어떻게 경쟁적 학습된 가설 또는 예측 간의 갈등을 모델링하고 해결할 수 있는가?
• RQ4 데이터로부터 유도된 논증 구조(예: 공격 관계, 논거 우선순위)의 형식적 및 계산적 성질은 무엇인가?
• RQ5 어떻게 추론과 논증을 통합하여 설명 가능하고 방어 가능하며 강건한 기계학습 시스템을 구축할 수 있는가?

주요 결과

• 추론은 관찰된 현상을 설명할 수 있는 최소한의 일관된 가정 집합을 식별함으로써 설명적 가설을 생성할 수 있게 하여, 데이터 준비 및 가설 형성에 매우 적합하다.
• 논증은 갈등이 있는 설명을 다루는 공식적 메커니즘을 제공하며, 연대 또는 방어 관계를 통해 결론을 반론에 대비해 방어할 수 있도록 한다.
• 학습과 논증의 통합은 고전적 함의를 초월하여 불완전하거나 일관성 없는 데이터에 강건한 커버리지 및 예측 모델링을 가능하게 한다.
• PAC 또는 한계에서의 학습 의미론 하에서 논증 프레임워크를 학습하는 것은 실현 가능하며, 규칙 학습, 예외 처리, 클러스터 선택 등의 실제 문제에 적용 가능하다.
• A-ART 및 MAICL와 같은 접근법은 포함관계 또는 최신성 기반 우선순위를 활용하여 경쟁적 학습된 클러스터나 가설 간의 갈등을 효과적으로 해결할 수 있음을 보여준다.
• 최근의 방법들인 SLAP 및 머신 코칭(Machine Coaching)은 논증이 온라인 및 반복적 학습 환경에서 사용될 수 있음을 보여주며, 데이터 또는 인간 피드백에 기반해 우선순위를 동적으로 업데이트할 수 있다.