[논문 리뷰] Explainability Fact Sheets: A Framework for Systematic Assessment of Explainable Approaches

Kacper Sokol, Peter Flach|arXiv (Cornell University)|2019. 12. 11.

Explainable Artificial Intelligence (XAI)참고 문헌 51인용 수 14

한 줄 요약

이 논문은 기능, 운영, 사용성, 안전성, 검증의 다섯 가지 차원에서 설명 가능 AI 방법을 평가하기 위한 체계적인 프레임워크인 설명 가능성 팩트 시트(Explainability Fact Sheets)를 소개한다. 100여 편 이상의 XAI 논문에서 유도된 기준을 종합하여 저자들은 이 프레임워크를 실용적인 템플릿으로 구체화함으로써 설명 가능성 접근 방식의 표준화된 비교 및 비판적 평가를 가능하게 하여 XAI 연구의 투명성과 방법론적 엄밀성을 향상시킨다.

ABSTRACT

Explanations in Machine Learning come in many forms, but a consensus regarding their desired properties is yet to emerge. In this paper we introduce a taxonomy and a set of descriptors that can be used to characterise and systematically assess explainable systems along five key dimensions: functional, operational, usability, safety and validation. In order to design a comprehensive and representative taxonomy and associated descriptors we surveyed the eXplainable Artificial Intelligence literature, extracting the criteria and desiderata that other authors have proposed or implicitly used in their research. The survey includes papers introducing new explainability algorithms to see what criteria are used to guide their development and how these algorithms are evaluated, as well as papers proposing such criteria from both computer science and social science perspectives. This novel framework allows to systematically compare and contrast explainability approaches, not just to better understand their capabilities but also to identify discrepancies between their theoretical qualities and properties of their implementations. We developed an operationalisation of the framework in the form of Explainability Fact Sheets, which enable researchers and practitioners alike to quickly grasp capabilities and limitations of a particular explainable method. When used as a Work Sheet, our taxonomy can guide the development of new explainability approaches by aiding in their critical evaluation along the five proposed dimensions.

연구 동기 및 목표

• 기계 학습 설명에 대한 바람직한 성질에 대한 공감대 부족 문제를 해결하기 위해 XAI 문헌에서 공통적으로 사용되는 기준을 규명하기 위해.
• 기능, 운영, 사용성, 안전성, 검증의 다섯 가지 평가 차원을 아우르는 종합적이고 체계적인 설명 가능성 접근 방식 기술자 분류 체계를 개발하기 위해.
• 연구자와 실무자들이 설명 가능성 방법을 비교, 평가, 향상시킬 수 있도록 도와주는 실용적이고 표준화된 도구인 설명 가능성 팩트 시트(Explainability Fact Sheets)를 만들기 위해.
• 이론적 바람직한 성질과 실제 구현 간 격차를 드러내어 이론적 요구사항과 실질적 구현 간 격차를 메우기 위해.

제안 방법

• 컴퓨터 과학 및 사회과학적 시각에서 XAI에 관한 100여 편 이상의 논문을 체계적으로 조사하여 프레임워크를 구축한다.
• 설명 가능성 방법을 종합적으로 기술하기 위해 기능, 운영, 사용성, 안전성, 검증의 다섯 가지 핵심 차원을 정의한다.
• 기존 XAI 연구 및 평가 관행에서 사용된 명시적 및 암묵적 기준들로부터 각 차원 내의 기술자들을 유도한다.
• 이 프레임워크는 방법 평가 및 개발을 위한 워크시트로 설계된 구조화된 템플릿인 설명 가능성 팩트 시트(Explainability Fact Sheets)로 구현된다.
• 이 분류 체계는 기존 방법의 후행 평가뿐 아니라 신규 설명 가능성 기법 설계 시의 사전 가이드라인으로도 기능한다.
• 성질과 제약 조건을 표준화된 방식으로 문서화하고 전달함으로써, 방법 간 체계적인 비교를 가능하게 한다.

실험 결과

연구 질문

• RQ1 광범위한 XAI 문헌에서 설명 가능성 방법을 평가하기 위해 사용되는 핵심 기준과 바람직한 성질은 무엇인가?
• RQ2 설명 가능성 접근 방식은 기능, 운영, 사용성, 안전성, 검증의 다섯 가지 차원에서 어떻게 체계적으로 평가될 수 있는가?
• RQ3 설명 가능성 방법의 이론적 성질과 실제 구현 성질 간 일치 정도는 어느 정도인가?
• RQ4 표준화된 프레임워크는 XAI 방법의 투명성, 비교 가능성, 비판적 평가를 어떻게 향상시킬 수 있는가?
• RQ5 설명 가능성 팩트 시트와 같은 통합 템플릿은 설명 가능 AI 분야의 연구 및 개발을 뒷받침할 수 있는가?

주요 결과

• 프레임워크는 다섯 가지 차원에 걸쳐 15개의 핵심 기술자들을 규명하여 설명 가능성 방법 평가를 위한 종합적인 시각을 제공한다.
• 기존 설명 가능성 시스템에서 이론적 설계 목표와 실제 구현 성질 사이에 뚜렷한 격차가 발견되었다.
• 설문 조사에서 반복적으로 나타난 평가 기준으로는 충실도(fidelity), 신뢰성(faithfulness), 사용자 이해 가능성(user comprehensibility) 등이 있었으며, 이는 이제 분류 체계에 공식적으로 통합되었다.
• 설명 가능성 팩트 시트가 방법 문서화를 효과적으로 구조화하여 강점과 한계를 명확히 전달할 수 있음을 입증하였다.
• 이 프레임워크는 기존 방법의 비판적 평가뿐 아니라, 체계적인 자가 평가를 통해 새로운 방법의 개발을 이끌어내는 데에도 기여한다.
• 평가 기준을 표준화함으로써 방법 간 비교를 가능하게 하고, XAI 연구 보고서의 모호성을 줄이는 데 기여한다.