[논문 리뷰] XPROAX-Local explanations for text classification with progressive neighborhood approximation

Yi Cai, Arthur Zimek외 1명|arXiv (Cornell University)|2021. 09. 30.

Explainable Artificial Intelligence (XAI)참고 문헌 48인용 수 3

한 줄 요약

XPROAX는 고차원성과 희소 데이터로 인해 발생하는 텍스트 분류기 설명을 위한 효과적인 국소적 이웃 생성의 부족을 해결하기 위해, 잠재 공간에서 대체로 반복적인 이웃 근사 기반의 두 단계 프로세스를 사용하는 국소적이고 모델 독립적인 설명 방법을 제안한다. 이 방법은 반사적 예시를 기준점으로 삼고, 목표 지향적 샘플링을 통해 이를 정밀하게 개선하여 의미 있는 사실적 및 반사적 예시를 생성한다. LIME 및 XSPELLS와 같은 최신 기법(SOTA) 대비 설명의 유용성, 안정성, 완전성, 압축성, 정확성 측면에서 뛰어난 성능을 달성한다.

ABSTRACT

The importance of the neighborhood for training a local surrogate model to approximate the local decision boundary of a black box classifier has been already highlighted in the literature. Several attempts have been made to construct a better neighborhood for high dimensional data, like texts, by using generative autoencoders. However, existing approaches mainly generate neighbors by selecting purely at random from the latent space and struggle under the curse of dimensionality to learn a good local decision boundary. To overcome this problem, we propose a progressive approximation of the neighborhood using counterfactual instances as initial landmarks and a careful 2-stage sampling approach to refine counterfactuals and generate factuals in the neighborhood of the input instance to be explained. Our work focuses on textual data and our explanations consist of both word-level explanations from the original instance (intrinsic) and the neighborhood (extrinsic) and factual- and counterfactual-instances discovered during the neighborhood generation process that further reveal the effect of altering certain parts in the input text. Our experiments on real-world datasets demonstrate that our method outperforms the competitors in terms of usefulness and stability (for the qualitative part) and completeness, compactness and correctness (for the quantitative part).

연구 동기 및 목표

• 고차원성과 희소 데이터로 인해 발생하는 텍스트 분류기 설명을 위한 효과적인 국소적 이웃 생성의 부족을 해결하기 위해.
• 기존 방법들인 XSPELLS가 사용하는 잠재 공간 내 랜덤 샘플링의 한계를 극복하기 위해.
• 원본 텍스트 단어(내재적)와 이웃 단어(외재적)를 모두 포함시켜 단어 수준의 설명을 통합함으로써 설명 품질을 향상시키기 위해.
• 완전성, 압축성, 정확성 측정 기반의 정량적 평가 프레임워크를 개발하기 위해.
• 입력 텍스트를 초월한 이웃 탐색이 더 포괄적이고 안정적인 설명을 제공함을 입증하기 위해.

제안 방법

• XPROAX는 입력 텍스트를 이웃 보존 잠재 공간으로 매핑하기 위해 생성적 오토인코더를 사용한다.
• 이웃을 반사적 예시—모델의 예측를 변경할 수 있는 텍스트—로 초기화하여 기준점으로 삼는다.
• 두 단계 샘플링 프로세스를 통해 이러한 반사적 예시를 점진적으로 정밀화한다: 첫 번째로 더 현실적인 반사적 예시를 생성하고, 두 번째로 국소 이웃 내 사실적 예시를 생성한다.
• 이 방법은 원본 입력(내재적)과 생성된 이웃(외재적)에서 단어 수준의 설명을 추출하여 종합적인 통찰을 제공한다.
• 흑상자 결정 경계를 근사하기 위해 개선된 이웃 기반 국소 서로서프 모델을 구축한다.
• 신뢰도 감소를 기반으로 완전성, 압축성, 정확성 메트릭을 사용하는 자동 평가 프레임워크를 통해 설명을 정량화한다.

실험 결과

연구 질문

• RQ1 잠재 공간 내 점진적이고 기준점 기반의 이웃 근사 기법이 텍스트 분류기의 국소 설명 품질을 향상시킬 수 있는가?
• RQ2 이웃에서 유도된 외재적 단어를 통합할 경우, 내재적 단어에만 의존하는 것과 비교해 설명의 안정성과 유용성이 어떻게 향상되는가?
• RQ3 잠재 공간 내 구조적 샘플링 전략이 랜덤 샘플링에 비해 충실도 있고 의미 있는 이웃을 생성하는 데 얼마나 뛰어난가?
• RQ4 제안된 정량적 메트릭(완전성, 압축성, 정확성)이 인간 평가의 설명 품질과 얼마나 상관이 있는가?
• RQ5 다양한 텍스트 분류 모델과 데이터셋에 적용했을 때, 이 방법이 높은 정밀도와 안정성을 유지할 수 있는가?

주요 결과

• XPROAX는 모든 실험 설정에서 가장 높은 완전성을 달성했으며, Yelp-RF 데이터셋에서 평균 신뢰도 감소는 0.740 ± 0.22, Yelp-DNN에서는 0.825 ± 0.35였다.
• 네 가지 설정 중 세 곳에서 가장 높은 압축성을 확보했으며, Yelp-RF에서 단위 작업당 평균 신뢰도 감소는 0.417 ± 0.33, Yelp-DNN에서는 0.302 ± 0.43였다.
• 정확성 측면에서 뚜렷한 향상을 보였으며, 임계값을 0.1에서 0.3으로 증가시켰을 때 압축성 변화량(∆η)이 Yelp-RF에서 +0.153, Yelp-DNN에서는 +0.206로 XSPELLS 및 베이스라인을 능가했다.
• Amazon 데이터셋에서 XPROAX는 RF 모델을 사용해 신뢰도 감소 0.506 ± 0.20(완전성) 및 0.354 ± 0.21(압축성)을 기록했으며, DNN 모델을 사용해 각각 0.665 ± 0.21 및 0.298 ± 0.25를 기록했다.
• 모든 데이터셋에서 LIME보다 완전성과 압축성 측면에서 슈퍼리어한 성능을 보였으며, LIME는 낮은 초기 압축성로 약간 더 높은 정확성을 기록했음에도 불구하고.
• 결과는 입력 텍스트를 초월한 이웃 탐색이 내재적 단어에만 의존하거나 잠재 공간 내 랜덤 샘플링에 의존하는 방법보다 더 포괄적이고 안정적인 설명을 제공함을 확인한다.