[논문 리뷰] XAI Method Properties: A (Meta-)study.

Gesina Schwalbe, Bettina Finzel|arXiv (Cornell University)|2021. 05. 15.

Explainable Artificial Intelligence (XAI)참고 문헌 111인용 수 9

한 줄 요약

이 메타 분석은 설명 가능한 AI(XAI) 분야에서 가장 많이 인용되고 최신의 분류 체계를 종합하여, 조사 문헌에서의 용어, 개념 및 평가 기준을 통합한다. 이는 50개 이상의 XAI 방법을 고차원적 분류 체계 내에 분류함으로써 향후 연구 및 응용을 안내하는 종합적이고 맥락에 맞는 프레임워크를 제공한다.

ABSTRACT

In the meantime, a wide variety of terminologies, motivations, approaches and evaluation criteria have been developed within the scope of research on explainable artificial intelligence (XAI). Many taxonomies can be found in the literature, each with a different focus, but also showing many points of overlap. In this paper, we summarize the most cited and current taxonomies in a meta-analysis in order to highlight the essential aspects of the state-of-the-art in XAI. We also present and add terminologies as well as concepts from a large number of survey articles on the topic. Last but not least, we illustrate concepts from the higher-level taxonomy with more than 50 example methods, which we categorize accordingly, thus providing a wide-ranging overview of aspects of XAI and paving the way for use case-appropriate as well as context-specific subsequent research.

연구 동기 및 목표

• 설명 가능한 AI(XAI) 연구 분야에서 가장 영향력 있고 최신의 분류 체계를 통합하고 분석하기 위해.
• 여러 개의 XAI 조사 논문에서 유래한 다양한 용어와 개념적 프레임워크를 통합하기 위해.
• 기존 XAI 방법들을 체계적으로 통합하고 조직화할 수 있는 고차원적 분류 체계를 개발하기 위해.
• 향후 XAI 연구 및 방법 선택을 위한 체계적이고 용례에 적합한 참고 자료를 제공하기 위해.
• 50개 이상의 특정 XAI 방법을 분류함으로써 분류 체계의 실용적 적용 가능성을 입증하기 위해.

제안 방법

• XAI 문헌에서 가장 많이 인용되고 최신의 분류 체계에 대한 메타 분석을 수행하기 위해.
• 조사 논문들로부터 핵심 용어, 동기 및 평가 기준을 추출하고 통합하기 위해.
• XAI 방법의 핵심 차원을 포괄하는 고차원적 분류 체계를 구축하기 위해.
• 특성 및 설계 원칙에 기반하여 50개 이상의 특정 XAI 방법을 제안된 분류 체계에 매핑하기 위해.
• 주제적 및 구조적 분석을 통해 XAI 접근 방식 간의 공통점과 차이점을 식별하기 위해.
• 대표적 방법의 체계적 분류를 통해 분류 체계의 일관성과 포괄성을 검증하기 위해.

실험 결과

연구 질문

• RQ1 현재 XAI 연구에서 지배적인 분류 체계는 무엇이며, 서로 어떻게 연관되어 있는가?
• RQ2 XAI 조사 문헌에서 일관되게 사용되는 핵심 개념과 용어는 무엇인가?
• RQ3 다양한 XAI 방법 속성들을 통합할 수 있는 통합된 고차원적 분류 체계는 어떻게 구성할 수 있는가?
• RQ4 기존 XAI 방법들이 제안된 분류 체계와 얼마나 잘 부합하는가, 그리고 여전히 남아 있는 격차는 무엇인가?
• RQ5 결과로 도출된 분류 체계는 맥락에 맞고 용례에 적합한 XAI 방법 선택을 어떻게 지원할 수 있는가?

주요 결과

• 다양한 용어와 초점에도 불구하고, 많은 XAI 분류 체계가 핵심 개념에서 상당한 겹침을 보이고 있다.
• 여러 기존 프레임워크의 핵심 속성을 통합한 통합된 고차원적 분류 체계를 성공적으로 개발하였다.
• 제안된 분류 체계 내에서 50개 이상의 XAI 방법을 체계적으로 분류하였으며, 이는 체계의 실용적 적용 가능성을 입증한다.
• 연구는 XAI 방법 설계에서 반복되는 주제, 예를 들어 충실도(faithfulness), 정밀도(fidelity), 사용자 중심의 설명 가능성 등을 드러낸다.
• 메타 분석은 평가 기준과 용어 사용의 일관성 부족을 드러내며, 표준화의 필요성을 시사한다.
• 결과로 도출된 분류 체계는 향후 연구를 위한 체계적인 기반을 제공하여 보다 목표 지향적이고 맥락 인식 가능한 XAI 개발을 가능하게 한다.