[논문 리뷰] Fast Real-time Counterfactual Explanations

Yunxia Zhao|arXiv (Cornell University)|2020. 07. 11.

Adversarial Robustness in Machine Learning참고 문헌 27인용 수 10

한 줄 요약

이 논문은 GAN 기반 잔차 생성기와 starGAN을 통해 훈련된 FRACE를 제안한다. 이는 최적화 과정 없이 실시간으로 이미지 분류에 대한 역행성 설명을 제공하는 빠른 방법이다. 단일 순방향 전파를 통해 클래스별로 특화된 이미지 변환을 학습함으로써, FRACE는 최적화 기반 방법보다 최대 100배 빠르게 현실적이고 해석 가능한 역행성 예측을 생성하며, 설명 품질과 속도 면에서 현재 최고 수준의 성능을 기록한다.

ABSTRACT

Counterfactual explanations are considered, which is to answer {\it why the prediction is class A but not B.} Different from previous optimization based methods, an optimization-free Fast ReAl-time Counterfactual Explanation (FRACE) algorithm is proposed benefiting from the development of multi-domain image to image translation algorithms. Built from starGAN, a transformer is trained as a residual generator conditional on a classifier constrained under a proposal perturbation loss which maintains the content information of the query image, but just the class-specific semantic information is changed. The transformer can transfer the query image to any counterfactual class, and during inference, our explanation can be generated by it only within a forward time. It is fast and can satisfy the real-time practical application. Because of the adversarial training of GAN, our explanation is also more realistic compared to other counterparts. The experimental results demonstrate that our proposal is better than the existing state of the art in terms of quality and speed.

연구 동기 및 목표

• 상호작용형 AI 응용 프로그램을 위한 딥러닝에서 실시간, 현실적인 역행성 설명의 부족을 해결하기 위해.
• 실시간 사용에 너무 느린 최적화 기반 방법의 한계를 극복하기 위해.
• 편미분 또는 이미지 교체 방법에 의존하는 것보다 더 현실적이고 해석 가능한 역행성 이미지를 생성하기 위해.
• 랜덤 이미지 선택에 의존하는 것을 제거하여 설명의 일관성과 신뢰성을 향상시키기 위해.
• 경량 추론 메커니즘을 통해 스마트폰과 같은 저복잡도 플랫폼에의 배포를 가능하게 하기 위해.

제안 방법

• FRACE는 쿼리 이미지에서 역행성 클래스로의 이미지 간 변환을 학습하기 위해 starGAN으로 훈련된 잔차 생성기를 사용한다.
• 생성기는 분류기의 예측과 목표 역행성 클래스에 조건화되어 있어, 클래스별로 특화된 의미적 변화를 보장한다.
• 편미분 손실은 입력 이미지에 대해 최소한의 변화를 유지하면서도 내용을 유지하는 방식으로 생성기를 제약한다.
• 판별기와 함께 시행되는 적대적 훈련을 통해 생성된 역행성 이미지가 실제 이미지와 구분되지 않도록 보장한다.
• 분류기가 훈련 과정에 통합되어 생성된 이미지가 모델의 결정 경계와 일치하도록 한다.
• 추론 과정에서는 단일 순방향 전파만 필요로 하여 실시간 설명 생성이 가능하다.

실험 결과

연구 질문

• RQ1 최적화 반복 없이 GAN 기반 접근 방식이 이미지 분류에 대해 현실적인 역행성 이미지를 생성할 수 있는가?
• RQ2 실시간 응용 프로그램에서 FRACE의 속도는 최적화 기반의 역행성 설명 방법보다 어떻게 비교되는가?
• RQ3 이미지를 역행성 클래스로 변환하면서 콘텐츠 정체성을 얼마나 잘 유지하는가?
• RQ4 설명 품질과 해석 가능성 면에서 FRACE의 성능은 현재 최고 수준의 방법들과 비교해 어떻게 되는가?
• RQ5 미세한 시각적 차이가 중요한 세부 분류 작업에 대해 FRACE는 일반화가 가능한가?

주요 결과

• FRACE는 단일 순방향 전파를 통해 역행성 설명을 생성하여, Search나 CEM과 같은 최적화 기반 방법보다 훨씬 빠르다.
• qualitative 비교를 통해 FRACE는 SCOUT, Search, CEM와 비교해 최고 수준의 현실성 향상을 입증했다.
• 편미분 기반 방법이 랜덤 이미지 선택에 의존하는 것과 달리, FRACE는 손글씨 숫자에서 특정 선을 제거하거나 추가하는 등 더 해석 가능하고 의미 있는 변화를 생성한다.
• 적대적 훈련 덕분에 생성된 역행성 이미지가 시각적으로 자연스럽고 타당하며, 흔히 비현실적인 아티팩트를 유발하는 편미분 기반 방법과는 다르다.
• FRACE는 설명의 해석 가능성 면에서 SCOUT를 능가한다. FRACE의 설명은 추상적인 기여도 맵이 아니라 직접적인 시각적 변환을 제공하기 때문이다.
• 속도 벤치마크에서 FRACE는 가장 빠르며, GAN 사전 훈련을 고려하더라도 최적화 기반 대안들보다 인퍼런스 시간이 크게 낮다.