[논문 리뷰] Explainable Artificial Intelligence Approaches: A Survey

Sheikh Rabiul Islam, William Eberle외 2명|arXiv (Cornell University)|2021. 01. 23.

Explainable Artificial Intelligence (XAI)참고 문헌 54인용 수 88

한 줄 요약

이 설문조사는 신용 불이행 예측 사례 연구를 사용하여 대중적인 XAI 방법을 검토하고, 강점/한계를 분석하며, 설명 가능성의 정량화 및 인간 중심 AI 경로를 논의합니다.

ABSTRACT

The lack of explainability of a decision from an Artificial Intelligence (AI) based "black box" system/model, despite its superiority in many real-world applications, is a key stumbling block for adopting AI in many high stakes applications of different domain or industry. While many popular Explainable Artificial Intelligence (XAI) methods or approaches are available to facilitate a human-friendly explanation of the decision, each has its own merits and demerits, with a plethora of open challenges. We demonstrate popular XAI methods with a mutual case study/task (i.e., credit default prediction), analyze for competitive advantages from multiple perspectives (e.g., local, global), provide meaningful insight on quantifying explainability, and recommend paths towards responsible or human-centered AI using XAI as a medium. Practitioners can use this work as a catalog to understand, compare, and correlate competitive advantages of popular XAI methods. In addition, this survey elicits future research directions towards responsible or human-centric AI systems, which is crucial to adopt AI in high stakes applications.

연구 동기 및 목표

• 대출 연체 예측 태스크를 활용한 대중적인 XAI 방법 시연
• 다양한 관점에서 XAI 방법의 장단점 및 경쟁 우위를 비교
• 설명 가능성의 정량화 및 XAI 하에서의 인간 중심 AI 평가에 대한 통찰 제공
• 설명 가능성을 매개로 책임 있는 AI 방향을 제시하기

제안 방법

• 본질적으로 해석 가능한, 모델 비의존적, 예시 기반 설명으로 XAI 방법을 설명하고 분류
• Freddie Mac 데이터셋을 활용한 상호 대출 기본 예측 사례를 통해 방법 작동 원리 시연
• 전역(global) 대 로컬(local), 선제적(ante-hoc) 대 사후적(post-hoc), 고유(inherent) 대 에뮬레이션된 설명 가능성 관점에서 방법 분석
• 케이스 스터디를 위한 설명 생성 및 비교를 위한 R의 iml 패키지 적용
• 최근 설문조사를 참조 및 종합하여 분석 보강
• 설명 비교를 위한 프레임워크 제시 및 미해결 질문과 향후 연구 방향 논의

실험 결과

연구 질문

• RQ1 다양한 설명(로컬/글로벌, 선제/사후, 고유/에뮬레이션) 간 대중적인 XAI 방법의 경쟁 우위와 한계는 무엇인가?
• RQ2 설명 가능성을 어떻게 정량화하고 평가할 수 있는가, 인간-루프 평가 및 대리 메트릭 포함
• RQ3 XAI 방법은 신용 불이행 예측과 같은 실제 고위험 작업에서 어떻게 수행되고 소통되는가?
• RQ4 설명 가능성을 매개로 하는 책임 있는 또는 인간 중심 AI에 어떤 방향이 유망한가?

주요 결과

• XAI 방법은 모델과 작업에 따라 해석 가능성, 충실도, 적용성의 다양한 트레이드오프를 제시한다
• 전역 방법(예: PDP, ALE)은 전체 모델 동작을 제공하는 반면 로컬 방법(예: LIME, SHAP)은 인스턴스 수준 예측을 설명한다
• 특징 중요도, 상호 작용 분석, 대리 모델은 도움이 되지만 특징 간 상관관계 및 상호 작용의 영향을 받을 수 있다
• 반사적 사례(Rashomon) 효과와 대표 인스턴스 선택과 같은 문제에 직면하는 반면, 인간 친화적 통찰을 제공하는 반례(coun­terfactuals), 프로토타입, 예시 기반 설명은 유용하다
• 책임 있고 인간 중심의 AI를 지원하기 위해 실제적이고(환상적이지 않은) 설명이 필요하다는 점이 확인되었다