[논문 리뷰] ProtoVAE: A Trustworthy Self-Explainable Prototypical Variational Model

Srishti Gautam, Ahcène Boubekki외 5명|arXiv (Cornell University)|2022. 10. 15.

Machine Learning and Data Classification인용 수 11

한 줄 요약

ProtoVAE는 종속된 VAE 기반의 자기 설명 가능한 모델로, 종단 간 방식으로 클래스별로 해석 가능한 프로토타입을 학습하며, 직교성 제약 조건과 공유된 VAE 백본을 통해 투명성, 다양성, 신뢰성을 강화한다. 이는 예측 정확도를 희생시키지 않고 다섯 개의 이미지 데이터셋에서 충실도, 다양성, 시각적으로 해석 가능한 설명을 달성하는 최신 기술 수준의 성능을 보인다.

ABSTRACT

The need for interpretable models has fostered the development of self-explainable classifiers. Prior approaches are either based on multi-stage optimization schemes, impacting the predictive performance of the model, or produce explanations that are not transparent, trustworthy or do not capture the diversity of the data. To address these shortcomings, we propose ProtoVAE, a variational autoencoder-based framework that learns class-specific prototypes in an end-to-end manner and enforces trustworthiness and diversity by regularizing the representation space and introducing an orthonormality constraint. Finally, the model is designed to be transparent by directly incorporating the prototypes into the decision process. Extensive comparisons with previous self-explainable approaches demonstrate the superiority of ProtoVAE, highlighting its ability to generate trustworthy and diverse explanations, while not degrading predictive performance.

연구 동기 및 목표

• 기존 자기 설명 가능한 모델(SEM)의 한계를 해결하기 위해, 예측 성능을 희생하거나 설명의 투명성과 다양성이 떨어지는 문제를 해결하고자 한다.
• SEM에 대한 세 가지 핵심 성질인 투명성, 다양성, 신뢰성을 정의하고 구현 가능하게 하여 체계적인 평가를 가능하게 하고자 한다.
• 전역 프로토타입을 잠재 공간에서 직접 학습하는 통합된 종단 간 프레임워크를 개발하여, 훈련 샘플의 최근접 이웃를 대체로 의존하지 않도록 하고자 한다.
• 직교성 제약 조건과 유사도 기반 의사결정을 통합하여 설명의 충실도와 강건성을 확보하고자 한다.
• 자기 설명 가능한 모델이 블랙박스 성능을 따라하거나 초월할 수 있으며, 신뢰할 수 있고 인간이 이해할 수 있는 통찰을 제공할 수 있음을 입증하고자 한다.

제안 방법

• ProtoVAE는 변동형 자동차코더(VAE) 기반의 공유 인코더-디코더 아키텍처를 사용하며, 각 클래스는 고유한 가우시안 사전 분포를 중심으로 클래스별 프로토타입을 갖는다.
• 각 VAE는 서로 다른 프로토타입에 조건화되어 공유 방식으로 훈련되며, 재구성 및 분류 성능을 종단 간 최적화할 수 있도록 한다.
• 각 클래스 내에서 프로토타입 간의 직교성 제약 조건을 적용하여 내부 클래스 다양성을 강화하고 단일 지점으로의 붕괴를 방지한다.
• 최종 예측은 입력 표현과 각 프로토타입 간의 유사도 점수의 가중 평균으로 계산되어 의사결정의 투명성을 보장한다.
• 지표 기반의 역전파를 통해 유사도 점수에서 입력 공간으로의 국소 픽셀 수준의 설명을 생성한다.
• 재구성 손실, 분류 손실, 정규화 항을 조합한 손실 함수를 통해 충실도, 다양성, 신뢰성을 균형 있게 조절한다.

실험 결과

연구 질문

• RQ1 자기 설명 가능한 모델은 입력 공간에서 완전히 투명한 전역 프로토타입을 유지하면서도 높은 예측 성능을 달성할 수 있는가?
• RQ2 자기 설명 가능한 모델에서 프로토타입의 다양성을 어떻게 강화하여 붕괴를 방지하고 강건성을 향상시킬 수 있는가?
• RQ3 VAE 기반 아키텍처가 정확도를 희생시키지 않고 충실도, 다양성, 신뢰성을 갖춘 설명을 지원할 수 있는 정도는 어느 정도인가?
• RQ4 ProtoVAE가 생성하는 설명은 기존 방법인 ProtoPNet 및 SENN와 비교해 정량적·정성적으로 어떻게 다른가?
• RQ5 다양한 변형과 제거 테스트를 통해 유사도 순서를 기반으로 한 설명의 충실도가 얼마나 강건한가?

주요 결과

• ProtoVAE는 모든 데이터셋에서 ProtoPNet보다 유의미하게 낮은 활성화 차이(AD)와 높은 충실도(AI)를 달성했으며, MNIST에서는 AD 0.4 ± 0.0, CIFAR-10에서는 6.6 ± 0.0을 기록했고, ProtoPNet는 각각 3.4 ± 0.3, 11.6 ± 0.2를 기록했다.
• SVHN 데이터셋에서 ProtoVAE는 ProtoPNet와 유사한 AI(0.7 ± 0.0)를 기록했지만, 더 낮은 AD(6.1 ± 0.1)를 기록하여 더 신뢰할 수 있는 설명을 제공함을 시사한다.
• 유사도 순서 테스트에서 ProtoVAE는 MNIST, QuickDraw, SVHN에서 ProtoPNet 및 무작위 기준선을 모두 앞서며, 더 높은 AUC를 기록하여 관련 특징을 더 잘 포착함을 보였다.
• ProtoPNet는 유사도 테스트에서 MNIST에서 무작위 성능 이하로 나타나, 그 설명이 신뢰할 수 없고 잘못된 방향으로 이끌 수 있음을 시사한다.
• ProtoVAE는 예측 정확도를 유지하며, 블랙박스 대비자와 동일하거나 뛰어난 성능을 보였고, 이는 자기 설명 가능성의 비용으로 성능이 희생되지 않음을 입증한다.
• 모델의 전역 프로토타입은 입력 공간에서 직접 시각화 가능하며, 근접한 훈련 샘플에 의해 근사되지 않아 진정한 투명성을 확보한다.