[논문 리뷰] Topology-Aware Network Pruning using Multi-stage Graph Embedding and Reinforcement Learning

Sixing Yu, Arya Mazaheri외 1명|arXiv (Cornell University)|2021. 02. 05.

Advanced Graph Neural Networks인용 수 7

한 줄 요약

이 논문은 다층 그래프 신경망(m-GNN)을 사용해 딥 네ural 네트워크(DNN) 아키텍처의 계층적이고 이식 가능한 임베딩을 학습하고, 강화학습(PPO)을 통해 FLOPs 제약 조건 하에 최적의 채널 프루닝 정책을 자동으로 탐색하는 토폴로지 인식 프루닝 방법 GNN-RL을 제안한다. 이 방법은 ResNets, VGG-16, 모바일 친화적 네트워크를 포함한 다양한 모델에서 높은 압축 비율과 최소한의 피팅 트레이닝으로 최신 기술 수준의 정확도를 달성한다.

ABSTRACT

Model compression is an essential technique for deploying deep neural networks (DNNs) on power and memory-constrained resources. However, existing model-compression methods often rely on human expertise and focus on parameters' local importance, ignoring the rich topology information within DNNs. In this paper, we propose a novel multi-stage graph embedding technique based on graph neural networks (GNNs) to identify DNN topologies and use reinforcement learning (RL) to find a suitable compression policy. We performed resource-constrained (i.e., FLOPs) channel pruning and compared our approach with state-of-the-art model compression methods. We evaluated our method on various models from typical to mobile-friendly networks, such as ResNet family, VGG-16, MobileNet-v1/v2, and ShuffleNet. Results show that our method can achieve higher compression ratios with a minimal fine-tuning cost yet yields outstanding and competitive performance.

연구 동기 및 목표

• 기존 모델 압축 방법이 DNN 아키텍처를 忽시하고 수작업으로 정의된 규칙이나 국소적 파라미터 중요도에 의존하는 한계를 해결하기 위해.
• DNN 내부의 구조적 모티프와 계층적 패턴을 포괄하는 통합적이고 이식 가능한 프루닝 정책을 개발하기 위해.
• FLOPs 제약 조건을 강제하는 DNN-Graph 환경을 도입함으로써 RL 기반 프루닝에서 발생하는 보상-압축 비율 트레이드오���을 극복하기 위해.
• 토폴로지 인식 그래프 임베딩에 의해 이끌리는 PPO 기반 강화학습 에이전트를 통해 최소한의 인간 간섭으로 자동이고 적응형 프루닝을 가능하게 하기 위해.

제안 방법

• DNN을 계층적 계산 그래프로 모델링하여 구조적 모티프와 토폴로지를 포착하고, 이식 가능한 표현 학습을 가능하게 하기 위해.
• 그래프 레이어를 순차적으로 처리함으로써 계층적 그래프 임베딩을 학습하는 다단계 그래프 신경망(m-GNN)을 제안하여 부정확성과 효율성을 향상시킨다.
• 각 프루닝 단계를 그래프 상태로 변환하는 DNN-Graph 환경을 설계하여, 강화학습 에이전트가 압축된 모델을 토폴로지 수정 과정으로 간주하고 상호작용할 수 있도록 한다.
• 강화학습 알고리즘으로 보편적 정책 최적화(PPO)를 사용하며, 에이전트는 각 레이어의 프루닝 비율을 선택하고 FLOPs 제약 조건을 충족할 경우 정확도를 보상으로 수신한다.
• 그래프 임베딩을 강화학습과 통합하여 에이전트가 단지 파라미터 통계가 아닌 구조적 중요도를 고려한 추론를 수행할 수 있도록 한다.
• FLOPs를 주요 제약 조건으로 삼아 채널 프루닝에 적용함으로써, 목표 크기에 도달할 때까지 자동으로 압축을 수행할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 그래프 신경망이 DNN 내 계층적이고 반복적인 구조적 모티프를 효과적으로 포착하고 압축을 위한 표현으로 활용할 수 있는가?
• RQ2 토폴로지 인식 그래프 임베딩은 다양한 DNN 아키텍처 간 프루닝 정책의 일반화 및 이식 가능성에 어떻게 기여하는가?
• RQ3 수작업으로 정의된 보상 형상화나 히우리스틱 제약 조건에 의존하지 않고도 강화학습 에이전트가 최적의 FLOPs 제약 조건 하의 프루닝 정책을 학습할 수 있는가?
• RQ4 제안된 방법은 정확도, 압축 비율, 추론 효율성 측면에서 최신 기술 수준의 프루닝 기반 기법보다 어느 정도 뛰어나게 성능을 발휘하는가?
• RQ5 학습된 토폴로지 임베딩은 재학습 없이도 다른 DNN을 최소한의 재조정으로 프루닝하는 데에 효과적으로 활용될 수 있는가?

주요 결과

• ResNet-20에서 GNN-RL은 FLOPs를 49% 감소시켰고 정확도 손실은 0.1%에 불과했으며, VGG-16에서는 1.38배의 추론 속도 향상을 달성했다.
• ResNet-110에서는 원본 모델 대비 0.63%의 정확도 향상을 기록하여, 프루닝이 일반화 능력을 향상시킬 수 있음을 보여주었다.
• VGG-16에서 밀집 레이어를 프루닝하고 특징 맵 크기를 줄임으로써 GPU 메모리 사용량을 141MB(26.7%) 감소시켰다.
• MobileNet-v2는 원래 FLOPs의 79%로 압축되었고 정확도 손실은 1.4%에 그쳤다. 이는 모바일 우량 모델에서 뛰어난 성능을 발휘함을 보여준다.
• m-GNN는 표준 GNN 대비 30~50% 적은 그래프 노드와 간선를 사용하면서도 더 높은 노드 분류 정확도를 달성하여, 구조적 모티프를 효과적으로 포착함을 입증했다.
• GNN-RL이 학습한 토폴로지 인식 프루닝 정책은 이식 가능했으며, 재학습 없이도 다양한 DNN을 효과적으로 프루닝할 수 있었다.