[논문 리뷰] Argumentative XAI: A Survey

Kristijonas Čyras, Antonio Rago외 3명|arXiv (Cornell University)|2021. 05. 24.

Explainable Artificial Intelligence (XAI)인용 수 3

한 줄 요약

이 종합 검토는 계산적 추론을 활용하여 AI 결정에 대한 설명을 생성하는 데 초점을 맞춘 Argumentative XAI 프레임워크를 소개한다. 이는 설명 유형(내재형/후행형), 추론 프레임워크(예: 추상적, 이중성, 취소 가능한), 설명 형태(예: 분쟁 트리, 대화)에 따라 기존 접근법을 분류하며, 설명 가능성, 계산 효율성, 기계 학습 및 반대 조건 추론과의 통합 분야에서의 향후 연구를 위한 비전도 제시한다.

ABSTRACT

Explainable AI (XAI) has been investigated for decades and, together with AI itself, has witnessed unprecedented growth in recent years. Among various approaches to XAI, argumentative models have been advocated in both the AI and social science literature, as their dialectical nature appears to match some basic desirable features of the explanation activity. In this survey we overview XAI approaches built using methods from the field of computational argumentation, leveraging its wide array of reasoning abstractions and explanation delivery methods. We overview the literature focusing on different types of explanation (intrinsic and post-hoc), different models with which argumentation-based explanations are deployed, different forms of delivery, and different argumentation frameworks they use. We also lay out a roadmap for future work.

연구 동기 및 목표

• 설명 가능한 AI(XAI)에 대한 논증 기반 접근법을 종합적으로 개괄하고, 계산적 추론 프레임워크에 중점을 두기.
• 기존 XAI 방법을 설명 유형(내재형 대비 후행형), 사용된 추론 프레임워크(예: 추상적, 이중성, 취소 가능한) 및 제공되는 설명 형태에 따라 분류하기.
• 현재 연구의 격차를 규명하고 논증 기반 XAI 분야의 향후 발전을 위한 체계적인 비전 제시하기.
• 논증 기반 설명과 기계 학습 모델 및 반대 조건 추론의 통합 탐색하기.
• 복잡한 AI 시스템에 대해 이해 가능하고, 논쟁적으로 타당한 설명을 가능하게 하는 논증 프레임워크의 잠재력 부각하기.

제안 방법

• 설명이 시스템 내부에 내장되어 있는지 여부에 따라 XAI 접근법을 내재형(내재된) 또는 후행형(사후에 추가된)으로 분류하기.
• XAI에서 사용된 추론 프레임워크(AF)를 검토하고 분류하며, 추상적 추론(AA), 이중성 추론(BA), 취소 가능한 추론(DA) 등을 포함하여 공격과 지지의 다루움 방식이 다름.
• 분쟁 트리(DTs), 대화, 기반, 선호, 완전 확장과 같은 의미론을 갖는 추론 프레임워크를 포함한 설명 제공 메커니즘 분석하기.
• AF에서 설명 추출의 계산 복잡도 분석하기. 특히 특정 AF 유형(예: [ˇCyras 등, 2019b])에 대해 다항 시간 내의 타당성과 완전성 증명 결과 포함하기.
• 논증 기반 XAI와 기존 설명 패러다임(예: 반대 조건 설명(CFs), 논리 기반 설명) 간의 연결 고리 제안하기.
• 의미론, 계산 효율성, 적용 범위 확장에 중점을 둔 연구 비전 제시하기. 특히 기계 학습 및 확률 모델 분야에서의 적용 강조하기.

실험 결과

연구 질문

• RQ1 계산적 추론 프레임워크는 어떻게系통적으로 분류되고, XAI에서 설명 생성에 어떻게 적용될 수 있는가?
• RQ2 내재형과 후행형 논증 기반 설명 간의 주요 차이점은 무엇이며, 어떤 맥락에서 각각 가장 효과적인가?
• RQ3 다양한 추론 프레임워크(예: AA, BA, DA)는 어떻게 다른 형태의 설명 제공(예: 분쟁 트리, 대화)을 지원하는가?
• RQ4 SHAP, 반대 조건, 논리 기반 설명과 같은 기존 설명 방법들이 논증 기반 설명으로 재해석될 수 있는 정도는 어느 정도인가?
• RQ5 추론 프레임워크에서 설명을 추출하고 추론하는 데 있어 주요 계산적 과제는 무엇이며, 어떻게 해결할 수 있는가?

주요 결과

• 논증 기반 XAI는 공격과 지지를 포함한 대화적 과정으로서의 추론을 모델링함으로써 탄탄한 이론적 기반과 유연한 설명 접근법을 제공한다.
• 기반 확장에서 유도된 분쟁 트리(DTs)는 주장을 대립하는 당사자 간의 논의를 시뮬레이션하는 대화형 설명 생성을 가능하게 한다.
• 일부 AF 기반 설명 방법은 다항 시간 내에 타당성과 완전성을 확보할 수 있어 계산적으로 타당한 것으로 입증되었다. 예를 들어 [ˇCyras 등, 2019b]의 접근법은 다항 시간 내에 타당성과 완전성을 입증하였다.
• 논증 기반 XAI와 반대 조건 설명 간의 통합 잠재력은 매우 크며, 특히 논증의 지지 및 공격 관계와 일치하는 관계 기반 반대 조건 설명(CFs)을 통해 가능성이 높다.
• 진전이 있었음에도 불구하고, AF에서 설명 추출의 계산 복잡도 문제는 여전히 부족하게 연구되어 있으며 체계적인 연구가 필요하다.
• 이 조사에서는 기계 학습 모델, 특히 분류 및 확률적 환경에 논증 기반 XAI를 적용하는 데 있어 상당한 연구 격차를 규명하였으며, 이러한 환경는 본질적으로 대화적 성격을 지닌다.