[논문 리뷰] Causality Learning: A New Perspective for Interpretable Machine Learning

Guandong Xu, Tri Dung Duong외 3명|arXiv (Cornell University)|2020. 06. 27.

Explainable Artificial Intelligence (XAI)참고 문헌 64인용 수 41

한 줄 요약

이 논문은 해석가능한 머신러닝을 위한 인과 분석의 기초와 인과적 접근을 조사하고, 인과성과 전통적인 연관성 중심 방법을 대조하며 평가와 남은 문제를 개요로 제시한다.

ABSTRACT

Recent years have witnessed the rapid growth of machine learning in a wide range of fields such as image recognition, text classification, credit scoring prediction, recommendation system, etc. In spite of their great performance in different sectors, researchers still concern about the mechanism under any machine learning (ML) techniques that are inherently black-box and becoming more complex to achieve higher accuracy. Therefore, interpreting machine learning model is currently a mainstream topic in the research community. However, the traditional interpretable machine learning focuses on the association instead of the causality. This paper provides an overview of causal analysis with the fundamental background and key concepts, and then summarizes most recent causal approaches for interpretable machine learning. The evaluation techniques for assessing method quality, and open problems in causal interpretability are also discussed in this paper.

연구 동기 및 목표

• 인과 분석의 기본 배경과 핵심 개념을 소개한다.
• 해석가능한 머신러닝을 위한 최신의 인과적 접근법을 조사한다.
• 인과 해석 가능성 평가 기법을 논의하고 이 분야의 남은 문제를 제시한다.

제안 방법

• 인과 추론의 기반으로 구조적 인과 모델(SCM)과 potential outcome 프레임워크를 제시한다.
• ITE, ATE, ATT, CATE를 포함한 처리 효과 지표를 논의한다.
• 딥 네트워크에 대한 모델-무관 및 사후 인과성 방법을 검토하며, 인과적 기여도(causal attribution)와 TCAV-스타일 개념을 포함한다.
• 목표 함수와 제약 조건이 포함된 인과 특성 학습(causal feature learning) 및 반사실적 설명 기법을 요약한다.
• 인과 해석을 위한 시각화 방법(PDP/ICE 등)을 설명하고 평가 프레임워크를 개요한다.

실험 결과

연구 질문

• RQ1 인과 추론 프레임워크를 해석가능한 ML에 통합하여 모델 결정의 실제 원인을 식별하는 방법은 무엇인가?
• RQ2 인과성에 기초한 효과적인 모델-무관 및 사후 설명 가능성 접근법은 무엇인가?
• RQ3 참조 가능한 실제 원인 벤치마크가 없는 경우 인과 해석 가능성을 어떻게 평가해야 하는가?
• RQ4 분류, 추천 시스템 및 시계열 데이터에 대한 반사실적 설명(counterfactual explanations) 적용에서 남아 있는 개방형 문제는 무엇인가?

주요 결과

• 인과적 접근은 단순한 연관성을 넘어서 모델 의사결정의 원인과 결과를 식별할 수 있다.
• 구조적 인과 모델과 잠재적 결과를 포함한 다수의 인과 분석 프레임워크가 존재하며, ITE, ATE, ATT, CATE 등의 확립된 효과 지표가 있다.
• 인과 해석 가능성을 위한 다수의 모델-무관 및 사후 방법이 논의되며, 인과 특성 학습, 반사실적 설명, 개념 기반 설명 등이 포함된다.
• 인과 해석 가능성을 평가하기 위한 다양한 시각화 및 평가 전략이 제안되지만, 실제 정답 벤치마크(ground-truth) 평가는 여전히 도전적이다.
• DoWhy, EconML, CausalNex, TIGRAMITE와 같은 ML의 인과 분석을 지원하는 도구 상자들이 다수 있다.