[논문 리뷰] Explainable Artificial Intelligence (XAI) 2.0: A Manifesto of Open Challenges and Interdisciplinary Research Directions

Luca Longo, Mario Brčić외 17명|arXiv (Cornell University)|2023. 10. 30.

Artificial Intelligence in Healthcare and Education참고 문헌 240인용 수 14

한 줄 요약

9개 범주에 걸친 27개의 공개 XAI 도전과제를 제시하는 협력적 선언문으로, 해석가능한 AI를 발전시키고 실제 세계에서의 적용을 위한 학제간 방향을 제안한다.

ABSTRACT

As systems based on opaque Artificial Intelligence (AI) continue to flourish in diverse real-world applications, understanding these black box models has become paramount. In response, Explainable AI (XAI) has emerged as a field of research with practical and ethical benefits across various domains. This paper not only highlights the advancements in XAI and its application in real-world scenarios but also addresses the ongoing challenges within XAI, emphasizing the need for broader perspectives and collaborative efforts. We bring together experts from diverse fields to identify open problems, striving to synchronize research agendas and accelerate XAI in practical applications. By fostering collaborative discussion and interdisciplinary cooperation, we aim to propel XAI forward, contributing to its continued success. Our goal is to put forward a comprehensive proposal for advancing XAI. To achieve this goal, we present a manifesto of 27 open problems categorized into nine categories. These challenges encapsulate the complexities and nuances of XAI and offer a road map for future research. For each problem, we provide promising research directions in the hope of harnessing the collective intelligence of interested stakeholders.

연구 동기 및 목표

• XAI의 공개 문제를 식별하기 위해 다양한 전문가 관점을 통합한다.
• XAI 2.0를 발전시키기 위한 조정된 학제 간 연구 의제를 제안한다.
• 설명가능성의 실용적 응용과 실세계 관련성을 강조한다.
• 도메인과 이해관계자 간의 연구를 조정하기 위한 방향을 제시한다.

제안 방법

• 철학, 심리학, HCI, 컴퓨터 과학의 전문가 의견을 종합하여 공개 문제를 도출한다.
• 문제를 9개 범주로 분류하여 27개의 구체적 도전을 구성한다.
• 각 문제에 대한 제안된 연구 방향과 잠재적 해결 방법을 제시한다.

Figure 1: A manifesto for eXplainable Artificial Intelligence (XAI): High-level challenges

실험 결과

연구 질문

• RQ1 다학제적 패널이 식별한 XAI의 주요 공개 문제는 무엇인가?
• RQ2 XAI 연구를 어떻게 여러 학문 간에 조정하여 실세계 채택을 가속화할 수 있는가?
• RQ3 생성형, 개념 기반, 강건한 설명을 위한 XAI 2.0을 발전시키기 위해 어떤 방향과 접근 방식이 제안되는가?

주요 결과

• 9개 범주 선언문으로 구성된 XAI 2.0의 27개 공개 문제의 식별.
• 새로운 AI 유형(생성 모델, 개념 기반 학습) 설명의 도전과제와 현재 XAI 방법의 개선에 대한 강조.
• XAI 설명의 평가, 강건성, 인간 중심 평가의 격차에 대한 논의.
• 의학, 재무, 환경, 교육 등 응용 분야의 예시를 제시하여 학제간 연구를 고무한다.