[논문 리뷰] Understanding Convolutional Neural Networks for Text Classification

Alon Jacovi, Oren Sar Shalom외 1명|arXiv (Cornell University)|2018. 09. 21.

Explainable Artificial Intelligence (XAI)참고 문헌 23인용 수 24

한 줄 요약

이 논문은 1차원 합성곱 신경망(CNN)이 텍스트를 어떻게 처리하고 분류하는지 조사하며, 일반적으로 필터가 균일한 n-gram 탐지기로 작용한다는 공통된 가정을 도전한다. 필터가 서로 다른 활성 패턴을 통해 다수의 의미적 n-gram 가족을 탐지하고, 최대 풀링이 관련 없는 n-gram을 제거하는 임계값 설정 기능을 유도하며(성능 저하 없이 제거 가능한 풀링된 n-gram의 40%가 존재), 필터가 부정된 n-gram을 능동적으로 억제한다는 점을 드러낸다. 이러한 통찰은 필터 수준 분석과 임계값 인식 기반 설명 방법을 통해 모델 및 예측의 해석 가능성을 향상시킨다.

ABSTRACT

We present an analysis into the inner workings of Convolutional Neural Networks (CNNs) for processing text. CNNs used for computer vision can be interpreted by projecting filters into image space, but for discrete sequence inputs CNNs remain a mystery. We aim to understand the method by which the networks process and classify text. We examine common hypotheses to this problem: that filters, accompanied by global max-pooling, serve as ngram detectors. We show that filters may capture several different semantic classes of ngrams by using different activation patterns, and that global max-pooling induces behavior which separates important ngrams from the rest. Finally, we show practical use cases derived from our findings in the form of model interpretability (explaining a trained model by deriving a concrete identity for each filter, bridging the gap between visualization tools in vision tasks and NLP) and prediction interpretability (explaining predictions). Code implementation is available online at github.com/sayaendo/interpreting-cnn-for-text.

연구 동기 및 목표

• 텍스트 분류에서 CNN의 내부 작동 원리를 이해하고, 필터가 균일한 n-gram 탐지기로 작용한다는 가정을 도전한다.
• 글로벌 최대 풀링이 텍스트 CNN에서 관련 있는지 여부를 구분하여 불필요한 n-gram을 걸러내는 역할을 하는지 조사한다.
• 필터가 의미적 가족이나 부정적 신호, 예를 들어 부정된 n-gram을 탐지하는지 검토한다.
• 실험적 필터 분 析에 기반한 개선된 모델 수준 및 예측 수준의 해석 가능성 기법을 개발한다.

제안 방법

• 다양한 텍스트 분류 데이터셋에서 필터 반응을 분 析하여 고성능 n-gram의 활성 패턴과 의미 클러스터를 식별한다.
• 슬롯 활성 패턴 기반으로 고활성 n-gram에 클러스터링을 적용하여 각 필터당 별도의 언어 패턴을 드러낸다.
• 임계값 분석을 통해 최대 풀링이 실제로 어떤 n-gram을 무시하는지 확인하며, 풀링된 n-gram의 40%가 성능 저하 없이 제거될 수 있음을 보여준다.
• 어휘에서 최대화를 통해 필터 활성화를 단어 수준 기여도로 분해하는 방법을 도입하여, 필터의 비균일한 행동 양상을 드러낸다.
• 필터 임계값을 통과한 n-gram만 강조하고 슬롯 활성 패턴 분석을 통해 부정 n-gram 패턴을 표시하는 예측 해석 방법을 제안한다.
• 해석 가능성 향상을 보여주기 위해 아마존 일렉트로닉스(Elec) 데이터셋에서 10개의 필터를 가진 소규모 CNN 모델을 사용한다.

실험 결과

연구 질문

• RQ1 텍스트 분류에서 CNN 필터는 단일 n-gram 가족에 대해 균일한 탐지기로 작용하는가, 아니면 다수의 의미적 클래스에 반응하는가?
• RQ2 글로벌 최대 풀링은 얼마나 많은 정도로 관련 없는 n-gram을 제거하는 임계값 설정 기능을 유도하는가?
• RQ3 필터는 긍정적 n-gram 패턴 외에도 관련된 부정적 또는 부정된 n-gram을 능동적으로 억제하는가?
• RQ4 슬롯 활성 패턴과 의미 클러스터를 분석함으로써 각 필터에 대해 더 정보가 풍부하고 구조화된 요약을 유도할 수 있는가?
• RQ5 필터 임계값을 통과한 n-gram에 집중하고 n-gram 구성 내의 부정 신호를 식별함으로써 예측 해석 가능성을 향상시킬 수 있는가?

주요 결과

• 텍스트 CNN에서 최대 풀링은 임계값 설정 기능을 유도하며, 성능 저하 없이 제거 가능한 풀링된 n-gram의 40%가 존재함을 보여, 실제로 기능적으로 관련 있는 n-gram은 일부에 국한됨을 시사한다.
• 필터는 균일하지 않으며, 하나의 필터가 고활성 n-gram의 슬롯 활성 패턴 기반 클러스터링을 통해 서로 다른 의미적 n-gram 가족을 탐지할 수 있음을 드러낸다.
• 필터는 다른 단어가 매우 활성화되어 있어도 특정 단어에 음수 값을 할당하여 전체 n-gram을 억제함으로써 능동적인 부정 처리 행동을 보인다.
• 필터는 자연스러운 n-gram에 민감하며, 비자연스러운 n-gram에 의해 크게 오도될 수 있음을 보여, 실제 언어 패턴에 기반해 훈련되었음을 시사한다.
• 슬롯 활성 패턴 분석과 고성능 n-gram의 클러스터링을 통해 필터에 구체적인 의미적 정체성을 부여할 수 있으며, 이는 모델의 해석 가능성을 향상시킨다.
• 필터 임계값을 통과한 n-gram에 집중하고 부정 n-gram 패턴을 식별함으로써 예측 해석 가능성이 향상되며, 더 간결하고 정확한 설명이 가능해진다.