[논문 리뷰] Counterfactual Explanations via Latent Space Projection and Interpolation

Brian Barr, Matthew R. Harrington외 2명|arXiv (Cornell University)|2021. 12. 01.

Explainable Artificial Intelligence (XAI)인용 수 4

한 줄 요약

SharpShooter는 잠재 공간 내선형 보간을 통한 잠재 공간 투영을 통해 모델에 종속되지 않는 대체 해석을 생성하는 방법이다. 두 개의 변동형 오토인코더를 사용하여 입력을 목표 클래스 방향으로 투영하고, 잠재 공간 내선형 보간을 통해 현실적이고 희소한 대체 해석을 생성한다. 이는 기울기 기반 기준 대비 최대 1,000배 빠른 추론 속도를 달성하면서도 테이블 및 이미지 데이터셋에서 높은 현실성과 타당성을 유지한다.

ABSTRACT

Counterfactual explanations represent the minimal change to a data sample that alters its predicted classification, typically from an unfavorable initial class to a desired target class. Counterfactuals help answer questions such as "what needs to change for this application to get accepted for a loan?". A number of recently proposed approaches to counterfactual generation give varying definitions of "plausible" counterfactuals and methods to generate them. However, many of these methods are computationally intensive and provide unconvincing explanations. Here we introduce SharpShooter, a method for binary classification that starts by creating a projected version of the input that classifies as the target class. Counterfactual candidates are then generated in latent space on the interpolation line between the input and its projection. We then demonstrate that our framework translates core characteristics of a sample to its counterfactual through the use of learned representations. Furthermore, we show that SharpShooter is competitive across common quality metrics on tabular and image datasets while being orders of magnitude faster than two comparable methods and excels at measures of realism, making it well-suited for high velocity machine learning applications which require timely explanations.

연구 동기 및 목표

• 기계 학습 구현 파이프라인에서 중간자에게 효율적이고 현실적이며 타당한 대체 해석이 부족한 문제를 해결하기 위해.
• 특히 고차원 또는 범주형 데이터에서 기존 대체 해석 생성 방법의 계산 비효율성과 타당성 부족 문제를 해결하기 위해.
• 변동형 오토인코더에서 학습된 잠재 표현을 활용하여 대체 해석의 현실성과 희소성을 향상시키기 위해.
• 시간적 해석이 필요한 고속 기계 학습 응용 분야에 적합한 확장 가능한 모델에 종속되지 않는 프레임워크를 제공하기 위해.
• 의사결정 경계와 대체 해석 경로를 해석 가능성 향상을 위해 새로운 방식으로 시각화하기 위해.

제안 방법

• SharpShooter는 입력 샘플을 목표 클래스로 분류할 수 있도록 재구성 결과가 목표 클래스로 분류되는 잠재 공간으로 투영하기 위해 목표 변동형 오토인코더(VAE)를 사용한다.
• 기존 입력의 잠재 코드와 투영된 목표 잠재 코드 사이를 선형 보간하여 대체 해석 후보를 생성한다.
• 이 방법은 두 개의 VAE를 활용한다: 하나는 원본 데이터 분포를 위한 것이고, 다른 하나는 잠재 공간에서 목표 클래스 분포를 정밀하게 표현하기 위해 미세조정된 것이다.
• 대체 해석은 보간된 잠재 벡터에서 복원되고, 타당성, 근접성, 희소성, 재구성 품질 기준으로 평가된다.
• 이 프레임워크는 모델에 종속되지 않으며, 완전히 잠재 공간에서 작동하여 효율적인 탐색과 향상된 일반화를 가능하게 한다.
• 의사결정 경계와 대체 해석 경로를 공동 잠재 표현 공간에서 맵핑하는 새로운 시각화 기법을 도입한다.

실험 결과

연구 질문

• RQ1 잠재 공간 보간은 기울기 기반 방법과 비교해 현실적이며 계산적으로 효율적인 대체 해석을 생성할 수 있는가?
• RQ2 테이블 및 이미지 데이터셋에서, 잠재 공간 투영을 통한 대체 해석은 원본 입력에 비해 희소성과 근접성 측면에서 어떻게 비교되는가?
• RQ3 특히 고차원 범주형 데이터에서, 이 방법은 범주형 변수의 타당성을 어느 정도 유지하는가?
• RQ4 이 방법은 내부 샘플링 및 의미적으로 타당한 대체 해석을 생성할 수 있는가? 특히 적대적 예측에 가까운 변형을 피하는가?
• RQ5 잠재 공간의 구조는 결과 대체 해석의 품질과 해석 가능성에 어떤 영향을 미치는가?

주요 결과

• 모든 데이터셋에서 SharpShooter는 GDL 및 GDI 대비 최대 1,000배 빠른 추론 속도를 달성했으며, Lending Club 데이터셋에서는 1.6×10⁻³초, UCI 신용 데이터셋에서는 1×10⁻³초의 추론 시간을 기록했다.
• UCI 신용 데이터셋에서 SharpShooter는 타당성 점수 0.505, 근접성 3.99, 희소성 0.309를 기록했으며, 현실성과 타당성 측면에서 GDL 및 GDI를 초월했다.
• Lending Club 데이터셋에서 SharpShooter는 타당성 0.98과 희소성 0.49를 기록했으며, GDI(0.037) 및 GDL(0.015)보다 훨씬 낮은 재구성 손실(0.019)을 기록했다.
• 그림 4와 그림 5는 기울기 기반 방법이 극단적이거나 비현실적인 변화를 일으키는 반면, SharpShooter는 연속형 및 범주형 변수에서 더 현실적인 변화를 만들어내는 것으로 나타났다. 예를 들어, 청구 금액을 줄이고, 정시 납부 비율을 높이는 등의 변화가 가능했다.
• 2차원 저차원 잠재 공간에서 SharpShooter는 높은 타당성(0.98)을 유지했으며, 대출 금액에 대한 변화를 최소화한 반면, GDL은 빚-소득 비율과 소득을 극적으로 변경했다.
• 새로운 메트릭으로 측정한 결과, 이 방법은 뛰어난 현실성을 확보했으며, 특히 범주형 특성 공간에서 더 의미적으로 타당하고 실행 가능한 대체 해석을 생성했다.