[논문 리뷰] Interpretable Graph Capsule Networks for Object Recognition

Jindong Gu, Volker Tresp|arXiv (Cornell University)|2020. 12. 03.

Adversarial Robustness in Machine Learning참고 문헌 45인용 수 6

한 줄 요약

이 논문은 객체 인식을 위한 효율적이고 내재된 설명 기능을 제공하기 위해 캡슐 네트워크의 라우팅 메커니즘을 다중 헤드 어텐션 기반의 그래프 풀링 모듈로 대체하는 해석 가능한 그래프 캡슐 네트워크(GraCapsNets)를 제안한다. 이 모델은 표준 캡슐 네트워크보다 더 적은 파라미터를 사용하면서도 우수한 분류 정확도, 향상된 적대적 공격에 대한 강건성, 그리고 분리된 표현을 유지한다.

ABSTRACT

Capsule Networks, as alternatives to Convolutional Neural Networks, have been proposed to recognize objects from images. The current literature demonstrates many advantages of CapsNets over CNNs. However, how to create explanations for individual classifications of CapsNets has not been well explored. The widely used saliency methods are mainly proposed for explaining CNN-based classifications; they create saliency map explanations by combining activation values and the corresponding gradients, e.g., Grad-CAM. These saliency methods require a specific architecture of the underlying classifiers and cannot be trivially applied to CapsNets due to the iterative routing mechanism therein. To overcome the lack of interpretability, we can either propose new post-hoc interpretation methods for CapsNets or modifying the model to have build-in explanations. In this work, we explore the latter. Specifically, we propose interpretable Graph Capsule Networks (GraCapsNets), where we replace the routing part with a multi-head attention-based Graph Pooling approach. In the proposed model, individual classification explanations can be created effectively and efficiently. Our model also demonstrates some unexpected benefits, even though it replaces the fundamental part of CapsNets. Our GraCapsNets achieve better classification performance with fewer parameters and better adversarial robustness, when compared to CapsNets. Besides, GraCapsNets also keep other advantages of CapsNets, namely, disentangled representations and affine transformation robustness.

연구 동기 및 목표

• 현재 반복적인 라우팅 메커니즘으로 인해 효과적인 후행 해석 방법이 부족한 캡슐 네트워크의 해석 가능성 부족 문제를 해결하기 위해.
• 해석 가능한 그래프 기반 어텐션 메커니즘을 아키텍처에 직접 통합함으로써 모델의 해석 가능성과 효율적인 분류 설명을 향상시키기 위해.
• 라우팅 메커니즘이 캡슐 네트워크의 장점, 예를 들어 분리된 표현과 애핀 변환에 대한 강건성과 관련이 있는지 조사하기 위해.
• 모델 복잡도를 감소시키면서 성능을 유지하거나 향상시키고 적대적 공격에 대한 강건성을 향상시키는 캡슐 네트워크의 변종을 개발하기 위해.

제안 방법

• 기본적인 동적 라우팅 메커니즘을 다중 헤드 어텐션 기반의 그래프 풀링 연산으로 대체하여 주요 캡슐 간의 관계를 모델링한다.
• 주요 캡슐(객체의 부분들)을 그래프의 노드로 표현하며, 간선은 부분 간의 공간적 또는 의미적 관계를 표현한다.
• 학습된 어텐션 가중치에 기반해 관련된 부분 특징을 미분 가능한 그래프 풀링을 통해 집계함으로써 엔드 투 엔드 학습을 가능하게 한다.
• 그래프 풀링 레이어의 어텐션 가중치를 이용해 개별 분류 결정에 대한 내재된 설명을 제공함으로써 외부 시각화 방법이 필요 없도록 한다.
• 캡슐 네트워크 아키텍처에 그래프 풀링 모듈을 통합하여 캡슐 네트워크의 계층적이고 어텐션 기반의 특징 추상화를 유지한다.
• 백프로파게이션을 사용해 엔드 투 엔드로 모델을 학습시키며, 그래프 어텐션 메커니즘이 분류와 해석성을 통합된 프레임워크에서 제공한다.

실험 결과

연구 질문

• RQ1 캡슐 네트워크의 라우팅 메커니즘을 그래프 기반 풀링 메커니즘으로 대체해 성능을 유지하거나 향상시킬 수 있는가?
• RQ2 그래프 풀링에서 유도된 어텐션 가중치가 캡슐 네트워크의 개별 분류 결정에 대해 효과적인 내재된 설명으로 기능할 수 있는가?
• RQ3 라우팅을 그래프 풀링으로 대체함으로써 표준 캡슐 네트워크와 컨볼루션 네트워크(CNNs)에 비해 적대적 공격에 대한 강건성이 향상되는가?
• RQ4 새로운 아키텍처에서 캡슐 네트워크의 분리된 표현과 애핀 변환에 대한 강건성이 유지되는가?
• RQ5 제안된 모델이 기존 캡슐 네트워크보다 더 적은 파라미터로 더 나은 성능을 달성할 수 있는가?

주요 결과

• GraCapsNets는 SVHN과 CIFAR-10에서 표준 캡슐 네트워크와 CNN보다 더 높은 분류 정확도를 기록했으며, SVHN에서 1.5% 향상되고 CIFAR-10에서 2.1% 향상되었다.
• 모델은 표준 캡슐 네트워크보다 더 적은 파라미터를 사용하여 파라미터 효율성이 향상됨을 보였다.
• GraCapsNets는 뛰어난 적대적 공격에 대한 강건성을 보였으며, SVHN과 CIFAR-10에서 공격 성공률이 CNN과 다른 캡슐 네트워크보다 유의미하게 낮게 나타났다. 특히 허용 오차가 0.05인 강력한 C&W 공격에서 두드러진 성능을 보였다.
• 개별 캡슐 활성도 벡터의 차원을 변형했을 때 재구성된 이미지에 해석 가능한 변화가 관찰되어 분리된 표현이 유지됨을 확인했다.
• AffNIST 벤치마크에서 애핀 변환에 대한 강건성은 표준 캡슐 네트워크와 유사했으며, 테스트 정확도가 80.45%로 원본 캡슐 네트워크(79%)를 약간 초월했다.
• 그래프 어텐션 기반 내재 설명은 백프로파게이션 없이 반 전방향 프로세스 내에서 반으로 빠르게 생성되어 Grad-CAM, IG, SG 등의 변종보다 속도와 품질 면에서 뛰어났다.