[논문 리뷰] Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI

Alejandro Barredo Arrieta, Natalia Díaz-Rodríguez외 10명|arXiv (Cornell University)|2019. 10. 22.

Explainable Artificial Intelligence (XAI)인용 수 34

한 줄 요약

설명가능성의 사용자 중심 해석을 정의하고, 투명 및 사후(post-hoc) 방법에 대한 분류 체계를 제시하며, 도전 과제를 분석하고 프라이버시, 공정성, 데이터 융합의 함의를 포함하는 Responsible AI를 논의하는 포괄적 조사입니다.

ABSTRACT

In the last years, Artificial Intelligence (AI) has achieved a notable momentum that may deliver the best of expectations over many application sectors across the field. For this to occur, the entire community stands in front of the barrier of explainability, an inherent problem of AI techniques brought by sub-symbolism (e.g. ensembles or Deep Neural Networks) that were not present in the last hype of AI. Paradigms underlying this problem fall within the so-called eXplainable AI (XAI) field, which is acknowledged as a crucial feature for the practical deployment of AI models. This overview examines the existing literature in the field of XAI, including a prospect toward what is yet to be reached. We summarize previous efforts to define explainability in Machine Learning, establishing a novel definition that covers prior conceptual propositions with a major focus on the audience for which explainability is sought. We then propose and discuss about a taxonomy of recent contributions related to the explainability of different Machine Learning models, including those aimed at Deep Learning methods for which a second taxonomy is built. This literature analysis serves as the background for a series of challenges faced by XAI, such as the crossroads between data fusion and explainability. Our prospects lead toward the concept of Responsible Artificial Intelligence, namely, a methodology for the large-scale implementation of AI methods in real organizations with fairness, model explainability and accountability at its core. Our ultimate goal is to provide newcomers to XAI with a reference material in order to stimulate future research advances, but also to encourage experts and professionals from other disciplines to embrace the benefits of AI in their activity sectors, without any prior bias for its lack of interpretability.

연구 동기 및 목표

• ML/AI의 설명가능성에 대한 통합적이고 청중 중심의 정의를 제공한다.
• 투명한 모델과 사후 설명을 모두 포괄하는 XAI의 분류 체계(Deep Learning 전용 접근법 포함)를 개발한다.
• XAI 및 데이터 융합에서의 목표, 방법, 도전 과제를 식별하기 위해 문헌을 조사한다.
• Responsible AI 내 프라이버시, 강건성, 기밀성에 대한 함의를 논의한다.
• 실용적이고 책임 있는 AI 배치를 촉진하기 위한 미래 방향과 연구 필요성을 개요한다.

제안 방법

• 대상자 지향의 이해가능성에 기반하여 설명가능성의 정의를 정립한다.
• ML 모델을 설계에 의해 투명한(transparent) 또는 사후(post-hoc) 기법으로 설명 가능한지로 분류하고, 투명성의 수준(알고리즘적 투명성, 분해가능성, 시뮬러빌리티)을 포함한다.
• 일반 ML 모델(Deep 및 비-Deep 포함)에 대한 설명가능성 체계와 Deep Learning 설명(계층별, 표현, 주의)에 대한 두 가지 분류 체계를 구성한다.
• 약 400여 Contributions를 검토하여 목표와 방법을 식별하고 이를 하나의 응집된 프레임워크로 종합한다.
• Responsible AI의 관점에서 XAI와 데이터 융합, 프라이버시, 보안 간의 상호작용을 논의한다.

실험 결과

연구 질문

• RQ1 설명가능성을 의도된 청중과 목적을 고려하여 어떻게 정의할 수 있는가?
• RQ2 투명 및 사후 접근 방식 모두에 대한 XAI 방법의 기존 분류 체계와 분류는 무엇인가?
• RQ3 다양한 분야에서 XAI의 목표는 무엇이며, 이들이 청중과 응용과 어떻게 연결되는가?
• RQ4 Deep Learning 및 데이터 융합 맥락에서 설명가능성을 평가하고 적용하는 데 어떤 도전 과제가 남아 있는가?
• RQ5 공정성, 책임성, 프라이버시를 포함하는 더 넓은 Responsible AI 개념에 XAI가 어떻게 기여할 수 있는가?

주요 결과

• 설명가능 ML의 새로운 청중 중심 정의를 제시하며, 특정 청중에게 제시되는 세부 정보와 근거를 강조한다.
• 두 가지 포괄적 분류 체계를 개발한다: (1) ML 모델의 설명가능성(설계에 의해 투명 및 사후) 및 (2) DL 특성과 연계된 DL 설명의 XAI 방법, DL 특성에 맞춘 기준.
• XAI 목표의 광범위한 집합(신뢰성, 인과성, 전이성, 정보성, 확신, 공정성, 접근성, 인터랙티비티, 프라이버시 인식)을 식별하고 이를 대상 청중에 매핑한다.
• 설명가능성의 단일 보편 정의가 없으며, 설명가능성 및 그 품질을 평가하는 지표의 필요성을 강조한다.
• 데이터 융합, 프라이버시, 적대적 설정에 대한 강건성, 거버넌스 등 Responsible AI 맥락에서 XAI와의 교차로 인한 도전을 논의한다.
• 실세계 배치를 위한 설명가능성과 공정성 및 책임성을 중앙에 두는 Responsible AI 프레임워크를 옹호한다.