[논문 리뷰] Explainable Artificial Intelligence: a Systematic Review

Giulia Vilone, Luca Longo|arXiv (Cornell University)|2020. 05. 29.

Explainable Artificial Intelligence (XAI)참고 문헌 307인용 수 90

한 줄 요약

XAI 문헌을 네 가지 주요 클러스터로 분류하고—리뷰, 개념, 방법, 평가—최신 동향과 향후 방향을 개략적으로 제시하는 체계적 검토.

ABSTRACT

Explainable Artificial Intelligence (XAI) has experienced a significant growth over the last few years. This is due to the widespread application of machine learning, particularly deep learning, that has led to the development of highly accurate models but lack explainability and interpretability. A plethora of methods to tackle this problem have been proposed, developed and tested. This systematic review contributes to the body of knowledge by clustering these methods with a hierarchical classification system with four main clusters: review articles, theories and notions, methods and their evaluation. It also summarises the state-of-the-art in XAI and recommends future research directions.

연구 동기 및 목표

• 명확한 경계와 그룹화를 정의하여 방대한 XAI 문헌을 정리한다.
• XAI 연구를 위한 계층적 분류 체계를 제시한다.
• XAI의 최신 개념, 개념들, 및 평가 방법을 요약한다.
• XAI의 향후 연구 방향과 남아 있는 도전 과제를 제안한다.

제안 방법

• Google Scholar에서 'explainable artificial intelligence', 'explainable machine learning', 'interpretable machine learning' 용어로 설명가능성 문헌을 검색한다.
• 두 단계의 기사 선정을 수행한다: 1단계에서 약 ~200편의 동료 심사(Peer-reviewed) 출판물을 식별하고; 2단계에서 참고문헌을 분석해 약 ~100편으로 수렴한다.
• 선정된 연구들을 네 가지 주요 범주: 리뷰, 개념, 방법, 평가로 분류한다.
• XAI 문헌의 트리 형태의 계층적 맵을 구성하되, 잎은 개별 기사들을 나타낸다.
• 설명가능성과 관련된 개념들을 합성하고 HCI 문헌의 평가 개념과 지표를 개요한다.

실험 결과

연구 질문

• RQ1 설명가능한 AI 문헌의 주요 범주와 경계는 무엇인가?
• RQ2 설명가능성의 개념들이 연구들에서 어떻게 정의되고 실행되며 운용되는가?
• RQ3 설명가능성을 위한 어떤 방법들이 존재하며, 그것들은 어떻게 평가되는가?
• RQ4 XAI에서 확인된 향후 방향과 도전 과제는 무엇인가?
• RQ5 리뷰는 도메인 간 다양한 XAI 접근법을 어떻게 정리하고 종합하는가?

주요 결과

• XAI 문헌의 네 가지 주요 범주가 확인되었다: 리뷰, 개념, 새로운 설명 가능성 방법, 및 설명 가능성의 평가.
• 트리형 계층 맵은 범주 간의 분포와 의존성을 보여주며, 리뷰가 개념, 방법, 평가에 의존하는 방식을 강조한다.
• 리뷰는 적용 분야, 구축 접근법, 이론과 개념, 출력 형식, 문제 유형, 일반/체계적 리뷰를 중심으로 클러스터링된다.
• 설명은 텍스트형, 시각적, 또는 규칙 기반 형식을 가질 수 있으며, 그 효과는 신뢰, 인과성, 완전성, 이해가능성 등의 개념에 연결된다.
• 윤리적 및 법적 맥락(예: GDPR 설명받을 권리)이 투명하고 설명가능한 시스템의 필요성을 촉진한다.
• 문헌은 설명가능성을 정의하고 설명을 평가하는 데 인간 중심 요인과 HCI, 인지과학, 철학의 학제간 통찰을 강조한다.