[논문 리뷰] Concept-based Explainable Artificial Intelligence: A Survey

Eleonora Poeta, Gabriele Ciravegna외 3명|arXiv (Cornell University)|2023. 12. 20.

Explainable Artificial Intelligence (XAI)인용 수 13

한 줄 요약

이 논문은 Concept-based XAI(C-XAI)를 조사하고, 개념을 정의하며, 아홉 가지 범주 분류법을 제안하고, 이 분야를 위한 가이드라인과 평가 전략을 제시한다.

ABSTRACT

The field of explainable artificial intelligence emerged in response to the growing need for more transparent and reliable models. However, using raw features to provide explanations has been disputed in several works lately, advocating for more user-understandable explanations. To address this issue, a wide range of papers proposing Concept-based eXplainable Artificial Intelligence (C-XAI) methods have arisen in recent years. Nevertheless, a unified categorization and precise field definition are still missing. This paper fills the gap by offering a thorough review of C-XAI approaches. We define and identify different concepts and explanation types. We provide a taxonomy identifying nine categories and propose guidelines for selecting a suitable category based on the development context. Additionally, we report common evaluation strategies including metrics, human evaluations and dataset employed, aiming to assist the development of future methods. We believe this survey will serve researchers, practitioners, and domain experts in comprehending and advancing this innovative field.

연구 동기 및 목표

• 개념 기반 설명 분야의 핵심 용어를 정의하고 개념과 설명을 명확히 한다.
• 개념 사용, 학습 및 설명에 기반해 아홉 개의 C-XAI 카테고리를 식별하는 분류법을 제시한다.
• 개발 제약에 따라 적합한 C-XAI 방법을 선택하는 지침을 제공한다.
• 13차원에 걸친 방법 분석을 통해 체계적 비교와 평가가 가능하도록 한다.
• 향후 C-XAI 연구를 지원하기 위해 사용 가능한 지표, 데이터셋, 평가 관행을 보고한다.

제안 방법

• 개념 유형을 정의하고 분류한다(상징(Symbolic), 비지도 기초(Unsupervised Basis), 프로토타입(Prototype), 텍스트(Textual)).
• 개념 기반 설명을 구분한다(클래스-개념 관계(Class-Concept Relation), 노드-개념 연관(Node-Concept Association), 개념 시각화(Concept Visualization)).
• 포스트 호크(post-hoc) 개념 기반 설명과 설계에 의한 Explainable-by-Design 개념 기반 모델을 구분한다.
• 방법을 개념, 적용 가능성, 자원 측면에서 특징짓기 위한 13차원 분석 프레임워크를 개발한다.
• 실무자가 적합한 C-XAI 방법을 선택하도록 돕는 지침 프레임워크를 제안한다.
• 평가 전략을 검토하고 종합한다. 지표, 인간 평가, 데이터셋 등을 포함한다.

실험 결과

연구 질문

• RQ1 C-XAI에서 개념과 개념 기반 설명의 핵심 정의는 무엇인가?
• RQ2 C-XAI 방법을 포괄적 분류법으로 어떻게 분류할 수 있으며 사용에 대한 함의는 무엇인가?
• RQ3 제약과 목표를 고려할 때 연구자들이 적합한 C-XAI 방법을 선택하도록 돕는 지침은 무엇인가?
• RQ4 C-XAI 방법을 평가하기 위해 어떤 평가 전략, 지표, 데이터셋이 사용되는가?
• RQ5 개념 기반 설명 가능성의 현재 응용과 향후 방향은 무엇인가?

주요 결과

• 개념 기반 XAI(C-XAI)에 대한 최초의 체계적 리뷰를 소개한다.
• 네 가지 개념 유형과 세 가지 설명 유형을 정의하여 공식화된 어휘에 기여한다.
• 방법 선택을 위한 실용적인 지침과 함께 아홉 가지 범주 분류법을 제공한다.
• 방법 분석을 13차원에 걸쳐 수행하여 체계적 비교를 가능하게 한다.
• C-XAI 개발을 위한 지표, 데이터셋, 인간 평가 관행을 논의한다.
• 향후 연구를 위한 초기 응용 사례와 유망한 방향을 강조한다.