[논문 리뷰] Interpretable Image Recognition with Hierarchical Prototypes

Peter Hase, Chaofan Chen외 2명|arXiv (Cornell University)|2019. 06. 25.

Domain Adaptation and Few-Shot Learning인용 수 25

한 줄 요약

이 논문은 사전 정의된 계층적 분류 체계의 여러 수준에서 해석 가능한 이미지 분류를 가능하게 하는 딥러닝 모델인 계층적 프로토타입(HPnet)을 제안한다. 이 모델은 각 계층 수준에서 시각적 프로토타입을 학습함으로써 블랙박스 모델과 유사한 성능을 달성하면서도 국소화된 주의 맵을 통해 인간이 이해할 수 있는 설명을 제공한다. 또한 훈련 중에 볼 수 없었던 새로운 클래스를 계층적 분류 체계의 상위 수준에서 분류함으로써 새로운 클래스를 탐지할 수 있다. 예를 들어, 소총만 훈련 데이터로 사용되었더라도 권총을 무기로 인식할 수 있다.

ABSTRACT

Vision models are interpretable when they classify objects on the basis of features that a person can directly understand. Recently, methods relying on visual feature prototypes have been developed for this purpose. However, in contrast to how humans categorize objects, these approaches have not yet made use of any taxonomical organization of class labels. With such an approach, for instance, we may see why a chimpanzee is classified as a chimpanzee, but not why it was considered to be a primate or even an animal. In this work we introduce a model that uses hierarchically organized prototypes to classify objects at every level in a predefined taxonomy. Hence, we may find distinct explanations for the prediction an image receives at each level of the taxonomy. The hierarchical prototypes enable the model to perform another important task: interpretably classifying images from previously unseen classes at the level of the taxonomy to which they correctly relate, e.g. classifying a hand gun as a weapon, when the only weapons in the training data are rifles. With a subset of ImageNet, we test our model against its counterpart black-box model on two tasks: 1) classification of data from familiar classes, and 2) classification of data from previously unseen classes at the appropriate level in the taxonomy. We find that our model performs approximately as well as its counterpart black-box model while allowing for each classification to be interpreted.

연구 동기 및 목표

• 사전 정의된 분류 체계의 여러 수준에서 인간이 이해할 수 있는 시각적 특징을 사용해 예측을 설명하는 해석 가능한 이미지 인식 모델을 개발하는 것.
• 기존에 볼 수 없었던 클래스의 이미지를 분류하기 위해 더 넓은, 알려진 분류 수준에 할당함으로써 새로운 클래스를 분류할 수 있도록 하는 것.
• 각 계층 수준에서 예측에 대한 국소화된 주의 기반 설명을 제공함으로써, 예를 들어 '판다'나 '카푸친' 프로토타입을 활성화한 이미지 영역을 특정하는 것.
• 블랙박스 모델과 유사한 성능을 유지하면서도 계층적 프로토타입 학습을 통해 투명성과 진단 능력을 향상시키는 것.
• 모델이 훈련 중에 볼 수 없었던 계층적 분류 수준, 특히 상위 수준에서의 일반화 능력과 새로운 클래스 탐지 능력을 평가하는 것.

제안 방법

• 모델는 공유된 컨볼루션 특징을 사용하는 딥 네ural 네트워크를 사용하며, 사전 정의된 클래스 분류 체계의 각 수준에서 계층적 프로토타입을 학습한다 (예: 동물 → 영장류 → 카푸친).
• 프로토타입은 잠재 공간에 통합되며, 두 단계 훈련 과정을 통해 최적화된다: 컨볼루션 계층의 엔트리-투-엔드 미세조정 이후 볼록 최적화를 통해 프로토타입 위치를 정밀 조정한다.
• 매 5 에포크마다 수행되는 투영 단계를 통해 프로토타입이 데이터 다양체에 가까워지도록 보장함으로써 안정성과 해석 가능성 향상.
• 모델는 이미지 특징와 프로토타입 간의 주의 스코어를 계산하는 프로토타입 기반 분류기를 사용하며, 이는 각 클래스 예측에 대해 관련 이미지 영역을 국소화하는 히트맵을 생성한다.
• 새로운 클래스 탐지 헤드를 신규로 설계하여, 이미지가 알려진 세밀한 클래스에 속하는지 또는 알려진 상위 클래스 내에서 새로운 하위클래스에 속하는지 식별하도록 훈련한다.
• 일반화 능력을 향상시키기 위해 데이터 증강 및 도메인 적응(CEDA)을 적용하였으며, 특히 새로운 클래스 탐지에 유리하다.

실험 결과

연구 질문

• RQ1 비투명한 블랙박스 모델과 유사한 성능을 달성하면서도 이미지 분류에 대해 계층적이고 해석 가능한 설명을 제공할 수 있는가?
• RQ2 기존에 볼 수 없었던 클래스의 이미지를 적절한 상위 수준의 분류 체계에 할당함으로써 정확하게 분류할 수 있는가 (예: 새로운 총기를 무기로 분류하는가)?
• RQ3 학습된 프로토타입이 관련 이미지 영역을 얼마나 잘 국소화하는가? 이러한 국소화 결과는 모델 오류를 진단하는 데 사용될 수 있는가?
• RQ4 계층적 프로토타입 구조는 정확도를 유지하면서도 새로운 클래스 탐지 능력을 향상시키는가?
• RQ5 분류 체계의 다양한 수준에서 모델의 성능은 어떻게 변하는가? 특히 세밀한 수준과 상위 수준의 정확도 측면에서 어떻게 나타나는가?

주요 결과

• HPnet는 분포 내 데이터(F-ID)에서 82.61%의 세밀한 수준 정확도를 달성했으며, 이는 블랙박스 VGG-16 모델(82.19%)과 유사한 성능이다.
• 분포 내 데이터(C-ID)에서 HPnet는 93.57%의 상위 수준 정확도를 기록하여 계층적 분류 예측에서 뛰어난 성능을 보였다.
• 새로운 데이터에서 HPnet는 62.16%의 상위 수준 정확도(C-Novel)를 달성하여, 훈련 중에 볼 수 없었던 하위클래스를 알려진 넓은 범주에 할당할 수 있음을 보여주었다.
• 잠재 공간 내에서의 클러스터링 품질은 프로토타입의 가장 가까운 이웃 중 같은 클래스에 属하는 비율로 측정되었으며, HPnet의 경우 79.24%로 잘 분리되고 의미 있는 프로토타입을 확보한 것으로 나타났다.
• PbThreshold를 사용하여 새로운 클래스 탐지 정확도는 52.05%를 기록했으며, CEDA를 적용한 경우 51.22%로 향상되어 새로운 클래스 탐지에 대한 강건성을 입증했다.
• 히트맵을 통한 시각적 설명은 상위 활성화 프로토타입이 의미적으로 관련된 영역(예: 총기의 총구와 손)을 국소화하고 있음을 보여주었으며, 이는 잘못된 분류 원인을 진단하는 데 유용한 통찰을 제공했다.