[논문 리뷰] DeepN-JPEG: A Deep Neural Network Favorable JPEG-based Image Compression Framework

Zihao Liu, Tao Liu외 5명|arXiv (Cornell University)|2018. 03. 14.

Advanced Data Compression Techniques인용 수 7

한 줄 요약

DeepN-JPEG는 딥 뉴럴 네트워크(DNN) 최적화된 이미지 압축 프레임워크를 제안하며, 주파수 도메인 분석과 적응형 양자화를 활용하여 기존 JPEG보다 약 3.5배 높은 압축률을 달성하면서도 원본 DNN 분류 정확도를 유지한다. 이는 딥 네트워크의 통계적 특성 중요도를 기반으로 양자화 테이블을 재정의하여, 정확도 손실 없이 IoT 시스템의 데이터 전송 및 에너지 비용을 감소시킨다.

ABSTRACT

As one of most fascinating machine learning techniques, deep neural network (DNN) has demonstrated excellent performance in various intelligent tasks such as image classification. DNN achieves such performance, to a large extent, by performing expensive training over huge volumes of training data. To reduce the data storage and transfer overhead in smart resource-limited Internet-of-Thing (IoT) systems, effective data compression is a "must-have" feature before transferring real-time produced dataset for training or classification. While there have been many well-known image compression approaches (such as JPEG), we for the first time find that a human-visual based image compression approach such as JPEG compression is not an optimized solution for DNN systems, especially with high compression ratios. To this end, we develop an image compression framework tailored for DNN applications, named "DeepN-JPEG", to embrace the nature of deep cascaded information process mechanism of DNN architecture. Extensive experiments, based on "ImageNet" dataset with various state-of-the-art DNNs, show that "DeepN-JPEG" can achieve ~3.5x higher compression rate over the popular JPEG solution while maintaining the same accuracy level for image recognition, demonstrating its great potential of storage and power efficiency in DNN-based smart IoT system design.

연구 동기 및 목표

• 인간 시각 시스템(HVS) 기반 압축 기술인 JPEG의 효율성 부족 문제를 해결함으로써, 특히 고압축 비율 환경에서의 딥 러닝 워크로드에 적합한 압축 기법을 개발하는 것.
• 딥 뉴럴 네트워크 추론이 수행되는 자원 제약이 있는 IoT 및 엣지 디바이스에서의 데이터 전송 및 스토리지 오버헤드를 줄이는 것.
• 압축률을 극대화하면서도 고정밀도 DNN 분류 정확도를 유지하는 압축 프레임워크를 개발하는 것.
• 인간의 시각 인지가 아닌 딥 네트워크의 주파수 응답 특성에 기반해 양자화 테이블을 최적화하는 것.

제안 방법

• HVS와 DNN 간의 주파수 도메인 처리 차이를 비교하기 위한 반분석 모델을 제안하여 분류에 핵심적인 주파수 성분을 규명한다.
• 이미지 클래스 간 통계적 주파수 성분 분석을 적용하여 DNN 성능에 중요한 특징을 정밀하게 보완한다.
• 정밀화된 특징 통계치를 개별 양자화 테이블 값에 연결하기 위해 조각별 선형 매핑 함수를 설계한다.
• DNN에 최적화된 맞춤형 양자화 테이블을 구현하기 위해 오픈소스 IJG JPEG 프레임워크를 수정한다.
• ImageNet 기반 평가를 위해 최적화된 파rameter(a=255, b=80, c=240, T₁=20, T₂=60, k₁=9.75, k₂=1, k₃=3)를 사용한다.
• 고급 의미적 특징을 유지하면서 덜 관련성이 높은 고주파 성분을 기각하는 비균일 양자화 전략을 적용한다.

실험 결과

연구 질문

• RQ1 JPEG 기반 압축 프레임워크를 인간 시각 품질이 아닌 딥 뉴럴 네트워크 추론 정확도를 우선시하도록 재설계할 수 있는가?
• RQ2 딥 뉴럴 네트워크의 주파수 도메인 반응은 인간 시각 시스템과 어떻게 다를 수 있으며, 이러한 차이를 보다 효율적인 압축에 활용할 수 있는가?
• RQ3 이미지 데이터에 대해 압축률을 극대화하면서 정확도 저하를 최소화하는 데 가장 효과적인 양자화 전략은 무엇인가?
• RQ4 일반화된 압축 프레임워크는 AlexNet, VGG, GoogLeNet, ResNet과 같은 다양한 최신 DNN 아키텍처에서 높은 정확도를 유지할 수 있는가?

주요 결과

• DeepN-JPEG는 표준 JPEG 대비 약 3.5배 높은 압축률을 달성하면서도 ImageNet 데이터셋에서 동일한 이미지 분류 정확도를 유지한다.
• AlexNet, VGG-16, GoogLeNet, ResNet-34/50 등 다양한 모델에서 원래 DNN 정확도를 유지함으로써 강력한 일반화 능력을 입증한다.
• DeepN-JPEG를 사용할 경우 데이터 오프로딩에 소모되는 전력 소비가 원래 JPEG 기준 30%로 감소하며, 정확도 손실 없이도 가능하다.
• 'SAME-Q4' 및 'RM-HF3'과 같은 공격적인 JPEG 변형 대비 DeepN-JPEG는 각각 3배와 2배의 전력 절감 효과를 보이며, 더 효율적인 압축 덕분이다.
• 고압축 비율에서 표준 JPEG은 AlexNet 기반 ImageNet에서 최대 9%의 정확도 저하를 유발하지만, DeepN-JPEG는 이러한 저하를 완전히 방지한다.
• 특히 고압축 수준에서 'RM-HF' 및 'SAME-Q'와 같은 기준 기반 방법에 비해 압축 효율성과 정확도 유지 측면에서 모두 우수한 성능을 발휘한다.