[논문 리뷰] Towards Better Analysis of Deep Convolutional Neural Networks

Mengchen Liu, Jiaxin Shi외 4명|arXiv (Cornell University)|2016. 04. 24.

Visual Attention and Saliency Detection참고 문헌 50인용 수 9

한 줄 요약

이 논문은 딥 컨volution 신경망(DNN)을 방향성 비순환 그래프(DAG)로 모델링하여 전문가가 하이브리드 시각화를 통해 DNN를 이해하고 진단하며 개선할 수 있도록 돕는 시각적 분석 시스템인 CNNVis를 소개한다. 계층적 사각형 패킹, 헬드-카르프 동적 프로그래밍 기반의 행렬 재정렬, 이분군집 기반 엣지 번들링을 결합함으로써 CNNVis는 시각적 혼잡도를 줄이고 뉴런의 역할, 특징 패턴, 학습 문제를 드러낸다. 전문가들은 이 시스템을 통해 가중치 정체 현상과 ReLU 뉴런 사라짐 문제를 진단하여 배치 정규화를 추가함으로써 성공적으로 모델 성능을 향상시켰다.

ABSTRACT

Deep convolutional neural networks (CNNs) have achieved breakthrough performance in many pattern recognition tasks such as image classification. However, the development of high-quality deep models typically relies on a substantial amount of trial-and-error, as there is still no clear understanding of when and why a deep model works. In this paper, we present a visual analytics approach for better understanding, diagnosing, and refining deep CNNs. We formulate a deep CNN as a directed acyclic graph. Based on this formulation, a hybrid visualization is developed to disclose the multiple facets of each neuron and the interactions between them. In particular, we introduce a hierarchical rectangle packing algorithm and a matrix reordering algorithm to show the derived features of a neuron cluster. We also propose a biclustering-based edge bundling method to reduce visual clutter caused by a large number of connections between neurons. We evaluated our method on a set of CNNs and the results are generally favorable.

연구 동기 및 목표

• 수백만 개의 파라미터 간 복잡한 비선형 상호작용으로 인해 일반적으로 '블랙박스'로 간주되는 딥 CNN의 해석 불가능성 문제를 해결하기 위해.
• 모델 구조, 뉴런 행동, 학습 역학의 체계적 분석을 가능하게 하여 CNN 개발에서의 시행착오 의존도를 줄이기 위해.
• 기계학습 전문가가 활성화, 가중치, 연결성의 숨겨진 패턴을 드러내는 상호작용 도구를 제공하여 모델 개선을 지원하기 위해.
• 실시간으로 가중치 변화, 활성화 희박성, 연결성 패턴을 시각화하여 실패한 학습 케이스를 진단하기 위해.
• 시각적 탐색을 통해 여분의 뉴런, 사라진 ReLU 유닛, 구조적 비효율성을 식별함으로써 빠른 모델 반복을 가능하게 하기 위해.

제안 방법

• 뉴런을 노드로, 연결을 간선으로 하는 방향성 비순환 그래프(DAG)로 딥 CNN을 정의한다.
• 뉴런 클러스터의 파생 특징을 시각화하기 위해 계층적 사각형 패킹을 적용하여 기능적 그룹화를 드러낸다.
• 헬드-카르프 동적 프로그래밍 기반의 행렬 재정렬 알고리즘을 사용하여 뉴런 활성화 행렬에서 클러스터 패턴을 강조한다.
• 이분군집 기반 엣지 번들링 기법을 구현하여 높은 레이어 간 연결의 밀도로 인한 시각적 혼잡도를 감소시킨다.
• 다양한 시각적 관점(구조, 활성화, 가중치 변화, 연결성)을 통해 모델 상태를 탐색할 수 있도록 상호작용 가능한 시각화를 통합한다.
• 미래 작업을 위해 실시간 학습 중 업데이트 및 대표 스크래치샷 간 비교를 가능하게 하여 온라인 통합을 지원한다.

실험 결과

연구 질문

• RQ1 시각적 분석 기법을 어떻게 활용하여 딥 CNN의 해석 가능성을 향상시키고 모델 개발에서의 시행착오 의존도를 줄일 수 있는가?
• RQ2 어떤 시각화 전략이 딥 CNN 내 뉴런의 기능적 역할과 상호작용을 효과적으로 드러내는가?
• RQ3 딥 CNN에서 수백만 개의 연결으로 인한 시각적 혼잡도는 어떻게 줄일 수 있으며, 동시에 의미 있는 구조적 및 기능적 통찰을 유지할 수 있는가?
• RQ4 시각적 분석이 흐려지는 기울기 또는 사라지는 ReLU 유닛과 같은 일반적인 학습 실패를 진단하고 해결하는 데 도움이 될 수 있는가?
• RQ5 CNNVis에서 도출된 시각적 통찰은 성능 향상에 이르는 실질적인 모델 개선 조치로 이어질 수 있는가?

주요 결과

• 전문가들은 최소한의 가중치 변화를 관찰하고 대부분의 가중치가 음수임을 확인함으로써 실패한 학습 과정을 진단했다.
• 시각화 결과, 선형 변환에서 주로 음수 가중치를 가지는 바람에 상위 레이어의 ReLU 유닛이 일관되게 음수 입력을 받고 있어 활성화가 0이 되는 것으로 드러났다.
• ReLU 활성화 이전에 배치 정규화 레이어를 추가한 후, CIFAR-10에서 테스트 오차율이 9.43%로 유의미하게 향상되었고 수렴성과 성능이 개선되었다.
• 전문가들은 기존의 디버깅 방법(광범위한 코드 인스트루멘테이션 및 수동 로그 검토 필요)보다 CNNVis를 통해 더 빠른 진단이 가능했다고 보고했다.
• 하이브리드 시각화 접근법을 통해 전문가들은 활성화, 가중치, 연결성 등 다양한 시각적 관점을 동시에 탐색할 수 있었고, 이는 모델 이해도를 향상시켰다.
• 이분군집 기반 엣지 번들링과 계층적 패킹을 통해 대규모 CNN에서의 시각적 혼잡도를 성공적으로 감소시켜 복잡한 구조의 해석 가능성을 향상시켰다.