[논문 리뷰] Interpretable Compositional Convolutional Neural Networks

Wen Shen, Zhihua Wei외 5명|arXiv (Cornell University)|2021. 07. 09.

Explainable Artificial Intelligence (XAI)참고 문헌 29인용 수 6

한 줄 요약

이 논문은 표준 합성곱 신경망(CNN)을 해석 가능한 조합형 CNN으로 변환하는 방법을 제안한다. 이는 부분 또는 영역에 대한 애너테이션 없이도 일관되고 의미 있는 시각적 패턴(예: 객체의 부분 또는 이미지 영역)을 표현하는 필터를 학습한다. 기존의 ICNN와 같은 방법보다 더 높은 해석 가능성과 특징 일관성을 달성하면서도, 경쟁 가능한 분류 정확도를 유지하기 위해 새로운 그룹 기반 손실 함수를 도입한다. 이 손실 함수는 그룹 내에서 필터의 일관성을 강화하고 그룹 간의 다양성을 유도한다.

ABSTRACT

The reasonable definition of semantic interpretability presents the core challenge in explainable AI. This paper proposes a method to modify a traditional convolutional neural network (CNN) into an interpretable compositional CNN, in order to learn filters that encode meaningful visual patterns in intermediate convolutional layers. In a compositional CNN, each filter is supposed to consistently represent a specific compositional object part or image region with a clear meaning. The compositional CNN learns from image labels for classification without any annotations of parts or regions for supervision. Our method can be broadly applied to different types of CNNs. Experiments have demonstrated the effectiveness of our method.

연구 동기 및 목표

• 해석 가능한 AI에서 의미 있는 해석 가능성의 핵심 과제를 해결하기 위해, CNN 내에서 더 일반적이고 의미 있는 필터 해석 가능성의 형태를 정의한다.
• 부분/영역 애너테이션 없이도, 다양한 이미지에서 중간 합성곱 필터가 특정 객체의 부분이나 이미지 영역을 일관되게 표현할 수 있도록 보장한다.
• 다른 필터들이 서로 다른 시각적 패턴을 표현하도록 보장하여 학습된 특징의 다양성과 명확성을 향상시킨다.
• 높은 분류 정확도를 유지하면서도 특징의 해석 가능성은 크게 향상시키는 학습 방법을 개발한다.
• ICNN에서처럼 구형 영역 표현을 넘어, 구조화된 부분과 비구조화된 이미지 영역을 모두 포함한 표현 방식으로 확장한다.

제안 방법

• 합성곱 레이어 내의 필터를 그들의 활성화 패턴에 기반해 그룹화하는 데 사용되는 새로운 손실 함수를 도입한다. 이는 동일한 그룹에 속한 필터들이 항상 같은 시각적 패턴을 일관되게 표현하도록 보장한다.
• 다양한 입력 이미지 간의 특징 맵 일관성을 측정하는 유사도 기반 메트릭을 사용해 필터를 그룹화함으로써, 시각적 패턴의 상호 검증이 가능해진다.
• 손실 함수는 동일한 그룹 내 필터들이 같은 객체의 부분이나 이미지 영역을 표현하도록 강제하고, 다른 그룹의 필터들은 서로 다른 패턴을 표현하도록 하여 다양성을 증진시킨다.
• 다중 분류 작업에서는, 서로 다른 필터 그룹이 서로 다른 카테고리의 부분이나 영역에 활성화되도록 보장하는 추가 손실 함수를 적용한다.
• 아키텍처의 변경 없이도 다양한 CNN 아키텍처(VGG, ResNet, DenseNet 등)에 대해 종단 간(end-to-end)으로 적용 가능하며, 부분 또는 영역 애너테이션도 필요로 하지 않는다.
• 두 단계 평가 프레임워크를 사용한다: 수치적 불일관성 및 다양성 측정 지표와 함께 수작업 시각화를 통한 수용성 필드(RF) 분석.

실험 결과

연구 질문

• RQ1 부분 또는 영역 애너테이션이 전혀 없이도, CNN이 다양한 이미지에서 동일한 객체의 부분이나 이미지 영역을 일관되게 표현하는 필터를 학습할 수 있는가?
• RQ2 제안된 방법이 ICNN와 같은 기존의 해석 가능한 CNN보다 더 높은 일관성과 다양성을 갖는 학습된 시각적 패턴을 달성할 수 있는가?
• RQ3 특징의 해석 가능성은 크게 향상되었지만, 분류 정확도는 경쟁 가능한 수준을 유지하는가?
• RQ4 이 방법은 다양한 CNN 아키텍처에 일반화 가능하며, 구조화된 부분과 비구조화된 이미지 영역을 모두 처리할 수 있는가?
• RQ5 의미 있는 패턴을 표현하지 못하는 무작위나 비해석 가능한 특징에 비해, 학습된 필터는 의미 일관성과 시각적 명확성 측면에서 어떻게 다른가?

주요 결과

• 조합형 CNN은 전통적인 CNN과 ICNN보다 시각적 패턴의 일관성이 유의미하게 높았으며, 해석 가능한 필터의 경우 불일관성 값이 거의 0에 수렴했다.
• ICNN보다 높은 다양성 지표를 확보함으로써, 필터 그룹 간의 다양성이 높아졌음을 입증했다.
• 분류 작업에서 조합형 CNN은 전통적인 CNN과 유사하거나 略로 높은 정확도를 기록했으며, 대부분의 벤치마크에서 ICNN를 능가했다(예: Helen 데이터셋에서 ResNet-18 기준 99.85% 정확도).
• 시각화 결과, 조합형 CNN의 필터는 ICNN가 작은 구형 영역만 포착하는 데 비해, 전체 객체의 부분이나 큰 이미지 영역을 일관되게 표현했다.
• t-SNE 시각화 결과, 조합형 CNN의 특징 맵은 전통적인 CNN보다 더 잘 군집되어 있어 더 나은 의미적 조직성을 보였다.
• 실패 케이스는 극히 드물었으며, 의미 있는 패턴을 표현하지 못하는 필터가 소수에 그쳤다. 이는 방법의 강건성을 확인시켰다.