[논문 리뷰] ActiVis: Visual Exploration of Industry-Scale Deep Neural Network Models

Minsuk Kahng, Pierre Andrews외 2명|arXiv (Cornell University)|2017. 04. 06.

Data Visualization and Analytics참고 문헌 25인용 수 15

한 줄 요약

ActiVis는 모델 아키텍처와 뉴런 활성화를 통합한 유기적인 시각화를 통해 인스턴스 수준 및 서브셋 수준 탐색을 통합함으로써 산업 규모의 딥 뉴럴 네트워크를 깊이 있게 점검할 수 있도록 해주는 상호작용형 시각적 분석 시스템이다. 이 시스템은 대규모 데이터셋과 모델에 대한 확장성 있고 유연한 분석을 지원하여, 사용자가 시각적 패턴 탐색을 통해 잘못 분류된 원인을 파악하고 모델 설계를 최적화하는 데 기여한다.

ABSTRACT

While deep learning models have achieved state-of-the-art accuracies for many prediction tasks, understanding these models remains a challenge. Despite the recent interest in developing visual tools to help users interpret deep learning models, the complexity and wide variety of models deployed in industry, and the large-scale datasets that they used, pose unique design challenges that are inadequately addressed by existing work. Through participatory design sessions with over 15 researchers and engineers at Facebook, we have developed, deployed, and iteratively improved ActiVis, an interactive visualization system for interpreting large-scale deep learning models and results. By tightly integrating multiple coordinated views, such as a computation graph overview of the model architecture, and a neuron activation view for pattern discovery and comparison, users can explore complex deep neural network models at both the instance- and subset-level. ActiVis has been deployed on Facebook's machine learning platform. We present case studies with Facebook researchers and engineers, and usage scenarios of how ActiVis may work with different models.

연구 동기 및 목표

• 산업에서 사용되는 복잡하고 대규모의 딥 뉴럴 네트워크를 해석하는 데 도전하는 데 초점을 맞춘다. 이는 모델이 종종 블랙박스로 간주되기 때문이다.
• 기존의 시각화 도구들이 이미지 데이터에만 집중하거나 다양한 데이터 유형과 확장 가능한 데이터셋을 지원하지 못하는 한계를 극복한다.
• 사용자가 인스턴스 수준과 서브셋 수준 탐색을 모두 지원할 수 있도록 설계하여 모델의 해석 가능성과 디버깅 효율성을 향상시킨다.
• 실제 머신러닝 플랫폼(예: 페이스북의 플랫폼)에서 사용되는 다양한 모델과 데이터셋에 대해 일반화되고 민첩한 도구가 되도록 보장한다.
• 고수준의 모델 아키텍처 개요와 세부적인 활성화 분석을 통합하여 광범위한 이해와 세밀한 점검을 모두 지원한다.

제안 방법

• 계산 그래프 개요를 활용한 유기적인 시각화 인터페이스를 도입하여 모델 아키텍처를 표현하고 탐색을 가능하게 한다.
• 뉴런 활성화 매트릭스 뷰를 사용하여 특정 인스턴스 또는 사용자가 정의한 데이터 서브셋에 대해 뉴런의 반응을 시각화한다.
• 인스턴스 활성화의 2차원 투영을 지원하여 클래스 간 비교 및 고수준 패턴 탐색을 가능하게 한다.
• 사용자가 원본 데이터 속성, 변환된 특징 또는 출력 결과를 기반으로 서브셋을 정의할 수 있도록 하여 다각도의 분석이 가능하게 한다.
• 실시간 상호작용을 통해 개별 인스턴스와 활성화 패턴을 선택, 비교, 심층 탐색할 수 있도록 한다.
• 모델 아키텍처 뷰와 활성화 뷰 간의 밀접한 연동을 통해 고수준 구조에서 국소적인 뉴런 행동으로의 원활한 탐색을 가능하게 한다.

실험 결과

연구 질문

• RQ1 어떻게 시각적 분석 도구가 산업 환경에서 대규모 딥 뉴럴 네트워크의 효과적인 해석을 지원할 수 있는가?
• RQ2 어떤 설계 패턴이 통합 인터페이스를 통해 딥 러닝 모델의 인스턴스 수준 및 서브셋 수준 탐색을 가능하게 하는가?
• RQ3 어떻게 시각화 시스템이 산업용 데이터셋과 모델의 복잡성과 규모를 감당할 수 있는가?
• RQ4 유기적인 시각화는 사용자가 모델 행동과 성능에 대한 이해를 어떻게 향상시키는가?
• RQ5 실제로 어떻게 시각화 도구가 모델 훈련과 하이퍼파rameter 튜닝 결정을 지원할 수 있는가?

주요 결과

• ActiVis를 통해 사용자는 희박한 활성화 패턴을 관찰함으로써 활용도가 낮은 뉴런을 식별할 수 있었으며, 이는 모델 단순화의 잠재적 가능성을 시사한다.
• 시스템은 유사한 활성화 패턴이 서브셋 간에 공통으로 나타나는 경우 예측 능력이 뛰어난 뉴런을 드러내어 모델 행동 이해에 기여했다.
• 사례 연구를 통해 사용자는 서로 다른 인스턴스 서브셋 간의 활성화 패턴을 비교함으로써 잘못 분류된 원인을 탐지할 수 있었다.
• 모델 아키텍처 시각화와 활성화 분석의 통합은 인지 부담을 감소시키고 모델 디버깅 속도를 높였다.
• 엔지니어들은 ActiVis를 통해 뉴런의 중복 제거와 같은 하이퍼파rameter 튜닝 결정을 더 정보 기반으로 내릴 수 있었다.
• 이 도구는 페이스북의 머신러닝 플랫폼에 성공적으로 구현되어 여러 팀에서 모델 해석 및 최적화에 활용되었다.