[논문 리뷰] INTERPRETABLE CONVOLUTIONAL FILTER PRUNING

Zhuwei Qin, Fuxun Yu외 3명|arXiv (Cornell University)|2018. 09. 27.

Advanced Neural Network Applications참고 문헌 27인용 수 5

한 줄 요약

이 논문은 크기 외의 기능적 역할을 고려하는 기능 지향 필터 프루닝 방법을 제안하며, 필터의 기능을 정성적으로 분석함으로써 부재성의 원인을 드러낸다. 반복되거나 기능에 문제가 있는 필터를 식별하고 제거함으로써, 계산 효율성을 향상시키면서도 해석 가능한 프루닝 결정을 제공한다.

ABSTRACT

The sophisticated structure of Convolutional Neural Network (CNN) allows for outstanding performance, but at the cost of intensive computation. As significant redundancies inevitably present in such a structure, many works have been proposed to prune the convolutional filters for computation cost reduction. Although extremely effective, most works are based only on quantitative characteristics of the convolutional filters, and highly overlook the qualitative interpretation of individual filter's specific functionality. In this work, we interpreted the functionality and redundancy of the convolutional filters from different perspectives, and proposed a functionality-oriented filter pruning method. With extensive experiment results, we proved the convolutional filters' qualitative significance regardless of magnitude, demonstrated significant neural network redundancy due to repetitive filter functions, and analyzed the filter functionality defection under inappropriate retraining process. Such an interpretable pruning approach not only offers outstanding computation cost optimization over previous filter pruning methods, but also interprets filter pruning process.

연구 동기 및 목표

• 크기와 같은 정량적 지표에만 의존하는 기존 필터 프루닝 방법의 해석 가능성 부족 문제를 해결하기 위해.
• 컨볼루션 필터가 크기 기반의 부재성 외에도 기능적 부재성을 보이는가를 조사하기 위해.
• 적절하지 않은 재학습이 필터의 기능성에 어떤 영향을 미치고 성능 저하로 이어지는지 분석하기 위해.
• 제거 전에 필터의 역할을 해석하는 프루닝 프레임워크를 개발하여 효율성과 모델의 투명성을 모두 향상시키기 위해.
• 정량적 크기 기반 접근 방식보다 정성적 필터 기능 분석이 더 나은 프루닝 결정을 이끌어낼 수 있음을 입증하기 위해.

제안 방법

• 필터의 활성화 패턴과 특징 반응 특성 분석을 통해 컨볼루션 필터의 기능 기반 의미를 해석하는 방법을 제안한다.
• 활성화 기반 지표를 사용해 필터 간의 기능 유사도를 측정함으로써 필터의 부재성을 정량화한다.
• 크기와는 무관하게 반복되거나 유용성이 낮은 기능을 가진 필터를 우선으로 제거하는 새로운 프루닝 기준을 제안한다.
• 프루닝 이전 및 이후의 필터 행동을 시각화하고 분석함으로써 프루닝 파이프라인에 해석 가능성을 통합한다.
• 기능적 다양성을 유지하는 재학습 전략을 적용하여 피니튜닝 중 기능 상실을 방지한다.
• 다양한 CNN 아키텍처와 데이터셋을 대상으로 평가하여 프레임워크의 강건성과 일반화 능력을 검증한다.

실험 결과

연구 질문

• RQ1 컨볼루션 필터가 크기 기반의 부재성 외에도 얼마나 많은 기능적 부재성을 보이는가?
• RQ2 적절하지 않은 재학습은 프루닝 과정에서 필터의 기능적 통합성에 어떤 영향을 미치는가?
• RQ3 필터의 기능은 신뢰성 있게 해석되고 프루닝 기준으로 사용될 수 있는가?
• RQ4 기능 기반 프루닝은 정량적 크기 기반 프루닝과 비교해 정확도와 효율성 측면에서 어떻게 다른가?
• RQ5 기능적 다양성은 프루닝 이후 모델 성능에 어떤 영향을 미치는가?

주요 결과

• 연구는 크기가 다른 필터들 사이에서도 반복적인 기능 패턴이 존재함으로써 상당한 수준의 필터 부재성이 존재함을 입증한다.
• 유사한 기능을 가진 필터들은 종종 부재성이므로, 제거해도 모델 정확도에 큰 영향을 주지 않는다.
• 적절하지 않은 재학습은 필터가 원래의 역할을 상실하는 기능 상실 현상을 유도하며 성능 저하를 초래한다.
• 제안된 방법은 정량적 크기 기반 프루닝보다 더 뛰어난 계산 비용 절감을 달성하면서도 정확도를 유지하거나 향상시킨다.
• 해석 가능한 프루닝은 더 나은 모델 압축을 가능하게 하며, 네트워크 동작에 대한 통찰을 제공하여 투명성을 향상시킨다.