[논문 리뷰] EDUCE: Explaining model Decisions through Unsupervised Concepts Extraction

Diane Bouchacourt, Ludovic Denoyer|arXiv (Cornell University)|2019. 05. 28.

Topic Modeling참고 문헌 31인용 수 14

한 줄 요약

EDUCE는 입력 텍스트에서 의미적으로 일관된 비지도 개념을 자동으로 발견함으로써 텍스트 예측을 해석할 수 있는 자기해석 가능한 딥러닝 모델이다. 입력을 개념 존재/부재를 나타내는 이진 벡터로 인코딩하며, 이는 의미적으로 제약된 개별 문장 조각을 통해 미분 가능하게 학습된다. 이로 인해 높은 예측 성능를 달성하면서도 텍스트 분류 및 다중요소 감성 분석 작업에서 개념 수준의 해석 가능성 덕분에 인간이 이해할 수 있는 설명을 제공한다.

ABSTRACT

Providing explanations along with predictions is crucial in some text processing tasks. Therefore, we propose a new self-interpretable model that performs output prediction and simultaneously provides an explanation in terms of the presence of particular concepts in the input. To do so, our model's prediction relies solely on a low-dimensional binary representation of the input, where each feature denotes the presence or absence of concepts. The presence of a concept is decided from an excerpt i.e. a small sequence of consecutive words in the text. Relevant concepts for the prediction task at hand are automatically defined by our model, avoiding the need for concept-level annotations. To ease interpretability, we enforce that for each concept, the corresponding excerpts share similar semantics and are differentiable from each others. We experimentally demonstrate the relevance of our approach on text classification and multi-sentiment analysis tasks.

연구 동기 및 목표

• 자신의 예측을 자동으로 발견된 인간이 이해할 수 있는 개념을 통해 설명할 수 있는 자기해석 가능한 모델을 개발하는 것.
• 모든 개념 레이블링을 수동으로 수행할 필요 없이, 완전히 비지도 방식으로 관련 개념을 학습하는 것.
• 각 개념에 대해 추출된 문장 조각 간의 의미 일관성과 분리 가능성을 강제함으로써 해석 가능성 확보.
• 발견된 개념의 존재 또는 부재만을 기반으로 하여도 높은 예측 정확도를 유지하는 것.
• 텍스트 분류 및 다중요소 감성 분석을 포함한 다양한 NLP 작업에서 이 방법의 효과성을 입증하는 것.

제안 방법

• 모델은 입력 텍스트를 저차원의 이진 벡터로 인코딩하며, 각 차원은 발견된 개념의 존재 또는 부재를 나타낸다.
• 개념은 다수의 입력에서 의미적으로 일관되고 겹치지 않는 문장 조각(작은 단어 시퀀스)을 식별함으로써 비지도로 학습된다.
• 동일한 개념에 대한 문장 조각 간 의미 일관성과 다른 개념에 대한 문장 조각 간 차별성을 확보하기 위해, 미분 가능하고 의미 제약이 가해진 손실 함수를 적용한다.
• 예측은 오직 이진 개념 벡터에서 이루어지며, 이로 인해 입력에 포함된 개념이 무엇인지 명확하게 해석할 수 있다.
• 표준 예측 손실(교차 엔트로피 또는 MSE)과 보조적인 개념 일관성 손실을 함께 사용하여 엔드 투 엔드로 모델을 훈련시킨다.
• 각 개념에 대해 관련된 단어 시퀀스를 강조하는 기반으로 기울기 기반 어텐션 기반 메커니즘을 사용하여 문장 조각을 입력에서 추출한다.

실험 결과

연구 질문

• RQ1 딥러닝 모델이 개념 수준의 레이블링 없이도 텍스트에서 의미적으로 유의미하고 해석 가능한 개념을 자동으로 발견할 수 있는가?
• RQ2 이러한 비지도 개념의 존재 또는 부재가 정확한 예측을 위한 신뢰할 수 있고 해석 가능한 기반으로 기능할 수 있는가?
• RQ3 각 개념에 대해 추출된 문장 조각이 다양한 입력에서 일관되고 명확히 구분된 의미적 의미를 반영하는 정도는 어느 정도인가?
• RQ4 높은 해석 가능성 유지 조건에서, 이 모델의 예측 성능가 최신 기술 모델들과 비교해 볼 때 어떤가?
• RQ5 이 모델은 '요소 수준 감성 분석'과 같은 다중요소 예측 작업으로 일반화되어 의미 있는 개념 기반을 제공할 수 있는가?

주요 결과

• EDUCE는 다중요소 회귀 작업에서 BeerAdvocate 데이터셋에서 테스트 MSE 0.0119를 기록했으며, 전체 텍스트 기반 모델의 0.0089보다 낮은 성능을 보였고, 개념 정확도는 92.8%였다.
• 요소 수준 감성 예측에서, '외관' 요소에 대해 개념 7은 금본 러미네이션(annotation)에서 정밀도 97.09%를 기록하여 인간이 레이블링한 근거와 강한 일치를 보였다.
• 개념 7에 대해 추출된 문장 조각은 주로 맥주 외관과 관련되어 있었으며, 예를 들어 '좋은 거품과 레이싱', '아름다운 골든-앰버 색상' 등이 포함되어 있어 의미 일관성이 확인되었다.
• 모델은 높은 해석 가능성을 보였다: 개념들은 의미적으로 일관된 문장 조각들로 일관되게 기술되었으며, 예를 들어 개념 2(구두감에 관련)는 '크림 같은 질감과 씹히는 느낌, 풍부한 맛' 등으로 기술되었다.
• AGNews 텍스트 분류 데이터셋에서 EDUCE는 경쟁력 있는 성능를 기록했으며, 개념 존재/부재 기반 설명을 제공했다.
• 보조 실험 결과, 이 방법이 이미지 입력으로도 일반화됨을 확인하여 NLP를 넘어서도 광범위한 적용 가능성을 시사했다.