[논문 리뷰] Towards Trustworthy Explanation: On Causal Rationalization

Wenbo Zhang, Tong Wu외 3명|arXiv (Cornell University)|2023. 06. 25.

Topic Modeling인용 수 4

한 줄 요약

이 논문은 구조적 인과 모델을 활용하여 신뢰할 수 있고 비우연적인 추론을 식별하는 새로운 프레임워크인 인과적 정당화(causal rationalization)를 제안한다. 이는 비우연성과 효율성이라는 인과적 바람직한 조건을 강제하여, 인과적 추론과 우연적 연관성 간의 차이를 명확히 한다. 비우연성과 효율성을 보장하기 위해 인과 확률(예: CPNS)을 도입하여, 연관 기반 방법에 비해 리뷰 및 의료 데이터셋에서 더 높은 충실도와 일반화 성능을 달성한다.

ABSTRACT

With recent advances in natural language processing, rationalization becomes an essential self-explaining diagram to disentangle the black box by selecting a subset of input texts to account for the major variation in prediction. Yet, existing association-based approaches on rationalization cannot identify true rationales when two or more snippets are highly inter-correlated and thus provide a similar contribution to prediction accuracy, so-called spuriousness. To address this limitation, we novelly leverage two causal desiderata, non-spuriousness and efficiency, into rationalization from the causal inference perspective. We formally define a series of probabilities of causation based on a newly proposed structural causal model of rationalization, with its theoretical identification established as the main component of learning necessary and sufficient rationales. The superior performance of the proposed causal rationalization is demonstrated on real-world review and medical datasets with extensive experiments compared to state-of-the-art methods.

연구 동기 및 목표

• 연관 기반 정당화 방법이 진정한 인과적 추론과 비우연적이고 높은 상관관계를 보이는 스퍼링스(스팸) 스퍼링스 스퍼링스를 구분하지 못하는 한계를 해결하기 위해.
• 비우연성(인과적 관련성)과 효율성(중복 제거)이라는 두 가지 인과적 바람직한 조건을 사용해 인과적 추론을 형식화하기 위해.
• 필요한 요소와 충분한 요소를 이론적으로 식별할 수 있도록, 인과적 추론을 위한 구조적 인과 모델(SCM)을 개발하기 위해.
• 의료와 같은 고위험 NLP 응용 분야에서 모델 신뢰성을 높이기 위해, 단지 통계적 연관성만 반영하는 것이 아니라 진정한 인과 메커니즘을 반영한 추론을 보장하기 위해.

제안 방법

• 입력 스퍼링스, 결과, 예측자 간의 인과 관계를 모델링하는 인과적 추론을 위한 구조적 인과 모델(SCM)을 제안한다.
• 핵심 인과 확률을 정의하며, 이는 반사적 간섭에서 유도된 CPNS(Causal Probability of Necessary and Sufficient causes)를 포함한다.
• 무시 가능성 가정을 사용하여 CPNS를 간섭 조건 하에서 결과 확률의 차이로 식별한다: P(Y=y|Zj=zj, Z−j=z−j, X=x) − P(Y=y|Zj≠zj, Z−j=z−j, X=x).
• 단조성 및 일관성 가정을 적용하여 CPNS를 유도하고 경계를 설정함으로써, 인과적 추론의 이론적 식별 가능성을 확보한다.
• 인과적 추론 식별을 선택-예측 프레임워크에 통합하여, 표준 연관 기반 선택기 대신 인과 인지 선택기를 도입한다.
• 반사적 추론을 활용해 각 스퍼링스가 결과 예측에 필요한지 충분한지 평가함으로써, 인과 메커니즘에 충실한 추론을 보장한다.

실험 결과

연구 질문

• RQ1 비우연성과 효율성이라는 인과적 바람직한 조건을 정당화에 공식적으로 통합하여 NLP에서 설명의 신뢰성을 향상시킬 수 있는가?
• RQ2 인과적 추론의 구조적 인과 모델에서 인과 확률을 이론적으로 식별하고 추정할 수 있는가?
• RQ3 입력 스퍼링스가 상호 높은 상관관계를 보일 경우, 인과적 정당화가 충실하고 중복 없는 추론을 더 잘 식별할 수 있는가?
• RQ4 표준 정당화 방법에 비해 분포 이동 상황에서 인과적 정당화가 일반화 성능을 얼마나 향상시키는가?
• RQ5 제안된 인과 확률(예: CPNS)이 비우연적 대안 대비 진정으로 필요한 및 충분한 추론을 어떻게 식별할 수 있는가?

주요 결과

• 제안된 인과적 정당화 방법은 최신 연관 기반 기준에 비해 리뷰 및 의료 데이터셋에서 유의미하게 높은 충실도와 더 나은 일반화 성능을 달성한다.
• Yelp 및 IMDB 리뷰 데이터셋에서, 인과적 정당화는 높은 예측 정확도를 유지하면서도 정량적 평가 지표(F1-score)에서 기준 기법을 능가한다.
• MIMIC-III 의료 데이터셋에서, 이 방법은 전문가가 애너테이션한 환자 결과의 인과적 요인과 일치하는 임상적으로 의미 있는 추론을 식별한다.
• 분포 이동 상황에서도 강인한 성능을 유지하며, 연관 기반 모델이 비우연적 특징 의존성으로 인해 성능이 급격히 떨어지는 것과는 달리, 인과적 정당화는 높은 성능을 유지한다.
• 이론적 분석을 통해 CPNS가 표준 인과 가정 하에서 식별 가능하다는 것이 확인되어, 입력 스퍼링스의 인과적 관련성에 대한 신뢰할 수 있는 추정이 가능하다.
• 실험 결과는 인과적 정당화가 비우연적이고 상관관계가 높은 특징에 대한 의존도를 감소시킴을 보여주며, 예를 들어 맥주 리뷰에서 '불쾌한 향기' 같은 진정한 인과적 원인과 ' palate ' 같은 비인과적 특징을 효과적으로 구분한다.