[논문 리뷰] Towards User Empowerment.

Martin Pawelczyk, Johannes Haug외 2명|arXiv (Cornell University)|2019. 10. 21.

Explainable Artificial Intelligence (XAI)인용 수 7

한 줄 요약

이 논문은 반사적 조건부 이질적 변동 자동인코더(C-CHVAE)를 제안한다. 이는 원본 데이터 분포에 충실하면서도 희박하고 해석 가능한 반사적 설명을 생성하는 프레임워크이다. 고밀도 영역 내에 위치함으로써 현실적이고 이행 가능한 반사적 설명을 생성한다. 어려움 인식 기준을 도입하고 다양체 학습을 활용하여 실제 의사결정 지원에 적합한 반사적 설명을 생성한다.

ABSTRACT

Counterfactual explanations can be obtained by identifying the smallest change made to a feature vector to qualitatively influence a prediction; for example, from 'loan rejected' to 'awarded' or from 'high risk of cardiovascular disease' to 'low risk'. Previous approaches often emphasized that counterfactuals should be easily interpretable to humans, motivating sparse solutions with few changes to the feature vectors. However, these approaches would not ensure that the produced counterfactuals be proximate (i.e., not local outliers) and connected to regions with substantial data density (i.e., close to correctly classified observations), two requirements known as counterfactual faithfulness. These requirements are fundamental when making suggestions to individuals that are indeed attainable. Our contribution is twofold. On one hand, we suggest to complement the catalogue of counterfactual quality measures [1] using a criterion to quantify the degree of difficulty for a certain counterfactual suggestion. On the other hand, drawing ideas from the manifold learning literature, we develop a framework that generates attainable counterfactuals. We suggest the counterfactual conditional heterogeneous variational autoencoder (C-CHVAE) to identify attainable counterfactuals that lie within regions of high data density.

연구 동기 및 목표

• 기존 반사적 설명에서의 신뢰성 부족 문제를 해결하기 위해, 희박하지만 현실적이거나 이방성 유사 제안을 생성하는 경향이 있는 문제를 해결한다.
• 반사적 설명이 고밀도 데이터 영역 내에 위치하도록 보장하여 사용자가 실제로 이행할 수 있도록 실용성을 향상시킨다.
• 반사적 제안을 이행하기 위한 노력의 정도를 정량화하는 새로운 품질 측정 기준을 도입하여 사용자 중심의 해석 가능성을 향상시킨다.
• 반사적 설명과 데이터 다양체의 구조를 동시에 모델링하는 깊이 신뢰성 있는 생성 프레임워크를 개발한다.

제안 방법

• 입력 특징에 조건부로 반사적 설명을 모델링하는 조건부 VAE인 반사적 조건부 이질적 변동 자동인코더(C-CHVAE)를 제안한다.
• 원본 데이터와 반사적 변형을 모두 인코딩하는 잠재 공간을 사용하여 현실적이고 이행 가능한 변화를 분리 학습할 수 있도록 한다.
• 생성된 반사적 설명이 고밀도 데이터 영역 내에 위치하도록 보장하기 위해 다양체 학습 방법을 통합한다. 이는 신뢰성 향상에 기여한다.
• 반사적 제안을 이행하기 위해 필요한 노력의 정도를 정량화하는 난이도 점수 지표를 도입하여 사용자 능력 향상에 기여한다.
• 실제 데이터에서 흔히 발생하는 이질적 특징(예: 범주형 및 연속형)을 처리하기 위해 이질적 아키텍처를 활용한다.
• 재구성, 정규화 및 반사적 신뢰성의 균형을 고려한 변동 추론 목표를 사용하여 모델을 엔드 투 엔드로 훈련한다.

실험 결과

연구 질문

• RQ1 어떻게 반사적 설명을 고밀도 데이터 영역 내에 위치시켜 더 이행 가능한 것으로 만들 수 있는가?
• RQ2 반사적 제안을 이행하기 위한 난이도를 사용자에게 효과적으로 정량화할 수 있는 지표는 무엇인가?
• RQ3 C-CHVAE와 같은 깊이 신뢰성 생성 모델이 희박하면서도 데이터 분포에 충실한 반사적 설명을 생성할 수 있는가?
• RQ4 기존 방법과 비교해 볼 때 제안된 C-CHVAE 프레임워크는 현실적이고 실천 가능한 반사적 설명을 어떻게 더 잘 생성하는가?
• RQ5 다양체의 구조를 통합함으로써 반사적 설명의 신뢰성과 현실성은 어느 정도 향상되는가?

주요 결과

• C-CHVAE 프레임워크는 희박하면서도 고밀도 데이터 영역 내에 위치한 반사적 설명을 성공적으로 생성하여 신뢰성을 향상시켰다.
• 제안된 난이도 점수 지표는 반사적 제안을 이행하기 위한 어려움 정도를 의미 있고, 이해하기 쉬운 측정 기준을 제공한다.
• 다양체의 구조를 활용함으로써 모델는 지역적 이방성 또는 현실 세계 맥락에서 비현실적인 반사적 설명을 생성하는 것을 방지한다.
• 기본 모델 대비 반사적 설명의 해석 가능성과 현실적인 데이터 분포 기반의 신뢰성 향상에서 뛰어난 성능을 보였다.
• 이종 특징 처리 기능의 통합을 통해 다양한 실제 데이터 세트(이질적 특징 유형 포함)에 적용 가능한 프레임워크를 확보했다.
• 실증 결과는 C-CHVAE가 생성한 반사적 설명이 사용자 능력과 더 잘 부합하고 더 실천 가능하다는 것을 입증했다.