[논문 리뷰] If Only We Had Better Counterfactual Explanations: Five Key Deficits to Rectify in the Evaluation of Counterfactual XAI Techniques

Mark T. Keane, Eoin M. Kenny외 2명|arXiv (Cornell University)|2021. 02. 26.

Explainable Artificial Intelligence (XAI)인용 수 8

한 줄 요약

이 논문은 XAI 분야에서의 반사적 설명 평가에 있어 다섯 가지 핵심적 부족점을 규명하며, 문헌에 발표된 100개의 방법을 대상으로 한 설문 조사 기반으로, 심리적 및 계산적 검증의 부족을 보완하기 위한 표준화된 벤치마킹 로드맵을 제안한다. 이는 유저 테스트를 통과한 방법이 오직 21%에 불과하다는 점을 강조한다. 저자들은 반사적 XAI 연구의 과학적 진전을 가능하게 하기 위해 평가의 철저함을 향상시킬 것을 주장한다.

ABSTRACT

In recent years, there has been an explosion of AI research on counterfactual explanations as a solution to the problem of eXplainable AI (XAI). These explanations seem to offer technical, psychological and legal benefits over other explanation techniques. We survey 100 distinct counterfactual explanation methods reported in the literature. This survey addresses the extent to which these methods have been adequately evaluated, both psychologically and computationally, and quantifies the shortfalls occurring. For instance, only 21% of these methods have been user tested. Five key deficits in the evaluation of these methods are detailed and a roadmap, with standardised benchmark evaluations, is proposed to resolve the issues arising; issues, that currently effectively block scientific progress in this field.

연구 동기 및 목표

• 반사적 XAI 방법의 평가 상태를 심리적 및 계산적 차원에서 평가하기 위해.
• 문헌에서 반사적 설명이 어떻게 검증되고 있는지에 있어 체계적 결함을 규명하기 위해.
• 평가 부족을 보완하고 반사적 XAI 분야의 과학적 진전을 가속화하기 위해 표준화된 벤치마킹 프레임워크를 제안하기 위해.
• 대부분의 방법에서 유저 테스트가 이루어지지 않았다는 점을 부각하기 위해, 설문 조사된 기법 중 오직 21%만이 심리적 평가를 통과했다.

제안 방법

• 문헌에 발표된 100개의 서로 다른 반사적 설명 방법에 대한 체계적 설문 조사.
• 평가 관행을 심리적 및 계산적 차원으로 분류하여 방법론적 철저함을 평가하기 위해.
• 평가에서 반복적으로 나타나는 다섯 가지 부족점 식별: 심리적 검증 부족, 부족한 계산적 내구성, 공정성 점검 부재, 반사적 생성의 낮은 다양성, 부적절한 벤치마킹 기준.
• 심리적, 계산적, 공정성 차원을 통합하여 평가를 표준화하는 로드맵 제안.
• 메타분석의 투명성 향상을 위해 사용자 연구 및 재현 가능한 평가 프로토콜 통합에 중점을 두기 위해.
• 순수한 가능성을 넘어서 반사적 설명의 품질과 신뢰성 평가를 위한 체계적 프레임워크 활용.

실험 결과

연구 질문

• RQ1 반사적 XAI 방법은 어느 정도 사용자 연구나 심리적 테스트를 통해 평가되고 있는가?
• RQ2 계산적 및 심리적 차원에서 반사적 설명 평가에 있어 가장 흔한 방법론적 결함는 무엇인가?
• RQ3 현재의 평가 관행은 반사적 생성의 공정성, 다양성, 내구성을 보장하지 못하는 이유는 무엇인가?
• RQ4 반사적 XAI 연구의 재현성과 과학적 철저함을 향상시키기 위해 필요한 표준화된 벤치마크와 평가 프로토콜는 무엇인가?
• RQ5 식별된 반사적 설명 연구의 부족점을 해결하기 위해 통합된 평가 프레임워크는 어떻게 설계할 수 있는가?

주요 결과

• 설문 조사된 100개의 반사적 설명 방법 중 오직 21%만이 사용자 테스트를 통과하여, 심리적 검증의 심각한 격차가 있음을 시사한다.
• 대부분의 방법이 반사적 생성의 공정성, 내구성, 다양성에 대해 체계적인 평가를 하지 못하고 있음을 확인하였다.
• 많은 방법들이 반사적 설명이 실제 세계적 맥락에서 의미 있고 실행 가능한지 보장하지 못하고 있다.
• 표준화된 벤치마크의 부재로 인해 다양한 방법 간 재현성과 비교가 어렵다.
• 제안된 로드맵은 다섯 가지 핵심 부족점을 보완하고 과학적 진전을 가능하게 하기 위해 통합된 평가 프로토콜가 필요하다는 점을 강조한다.
• 논문은 현재의 평가 관행가 반사적 설명의 신뢰할 만한 구현이나 신뢰를 지원하기에는 부적절하다고 강조한다.