[논문 리뷰] How convolutional neural network see the world - A survey of convolutional neural network visualization methods

Zhuwei Qin, Funxun Yu외 2명|arXiv (Cornell University)|2018. 04. 30.

Anomaly Detection Techniques and Applications참고 문헌 47인용 수 48

한 줄 요약

CNN 시각화 방법(Activation Maximization, DeconvNet, Network Inversion, Network Dissection)을 포괄적으로 고찰하고 CNN 내부 작용과 의미를 해석하며, 동기, 알고리즘, 실험 및 응용에 대해 논의한다.

ABSTRACT

Nowadays, the Convolutional Neural Networks (CNNs) have achieved impressive performance on many computer vision related tasks, such as object detection, image recognition, image retrieval, etc. These achievements benefit from the CNNs outstanding capability to learn the input features with deep layers of neuron structures and iterative training process. However, these learned features are hard to identify and interpret from a human vision perspective, causing a lack of understanding of the CNNs internal working mechanism. To improve the CNN interpretability, the CNN visualization is well utilized as a qualitative analysis method, which translates the internal features into visually perceptible patterns. And many CNN visualization works have been proposed in the literature to interpret the CNN in perspectives of network structure, operation, and semantic concept. In this paper, we expect to provide a comprehensive survey of several representative CNN visualization methods, including Activation Maximization, Network Inversion, Deconvolutional Neural Networks (DeconvNet), and Network Dissection based visualization. These methods are presented in terms of motivations, algorithms, and experiment results. Based on these visualization methods, we also discuss their practical applications to demonstrate the significance of the CNN interpretability in areas of network design, optimization, security enhancement, etc.

연구 동기 및 목표

• CNN 시각화 및 해석 가능성의 동기를 명확히 한다.
• 네 가지 대표적 시각화 방법과 핵심 아이디어를 요약한다.
• 목표, 알고리즘, 관찰된 결과 측면에서 방법들을 비교한다.
• 설계, 최적화, 보안 분야에서의 CNN 시각화의 실용적 응용을 논의한다.

제안 방법

• Activation Maximization (AM) 및 뉴런 활성화를 최대화하는 입력을 합성하는 목표를 설명한다.
• 정규화 및 Deep Generative Network Activation Maximization (DGN-AM)과 같은 AM 개선을 설명한다.
• Deconvolutional Network (DeconvNet) 시각화와 특징 맵을 입력 공간으로 되돌려 투영하기 위한 역층 역전 전파를 제시한다.
• 레이어 활성화로부터 입력을 재구성하는 Network Inversion을 논의한다.
• 이질적인 데이터 세트를 사용하여 뉴런에 의미적으로 라벨을 부여하는 Network Dissection를 도입한다.
• 학습된 특징을 보여주기 위한 CaffeNet/ImageNet과 같은 아키텍처의 실험 구성들을 요약한다.

실험 결과

연구 질문

• RQ1 CNN에서 개별 뉴런과 계층을 활성화하는 시각적 패턴은 무엇인가?
• RQ2 다양한 시각화 방법이 내부 CNN 특징을 인간이 해석 가능한 패턴이나 의미론과 어떻게 연결하는가?
• RQ3 어떤 정규화 또는 생성 기술이 시각화의 해석 가능성을 높이는가?
• RQ4 시각화 방법이 CNN 설계, 최적화, 보안에 대해 어떤 실용적 시사점을 제공하는가?

주요 결과

• Activation Maximization은 에지, 모양, 객체 등 계층적이고 해석 가능한 특징을 보여주며, 패턴은 더 깊은 계층에서 더 복잡해진다.
• 정규화 및 생성적 approaches (DGN-AM)은 상위 계층에서 합성 패턴의 현실성과 해석 가능성을 개선한다.
• DeconvNet 시각화는 계층 전반에 걸쳐 어떤 입력 특징이 특정 뉴런을 트리거하는지 보여주는 명시적이고 이미지 수준의 패턴을 제공한다.
• Network Inversion은 특징 맵으로부터 입력을 재구성하여 각 계층에서 어떤 입력 정보가 보존되는지 보여준다.
• Network Dissection은 뉴런에 의미적 라벨링을 가능하게 하여 단위를 객체, 부분, 재료, 질감, 색상, 장면과 같은 사전에 정의된 시각적 개념과 연결한다.
• 시각화는 CNN이 종종 시각 피질과 유사한 계층적 특징 추출과 국부화된 패턴 특성을 학습한다는 것을 드러낸다.