[论文解读] DeepN-JPEG: A Deep Neural Network Favorable JPEG-based Image Compression Framework

Zihao Liu, Tao Liu+5 more|arXiv (Cornell University)|Mar 14, 2018

Advanced Data Compression Techniques被引用 7

一句话总结

DeepN-JPEG 提出了一种面向深度神经网络（DNN）的图像压缩框架，通过频域分析与自适应量化技术，实现了约3.5倍于传统JPEG的压缩率，同时保持原始DNN分类准确率。该方法基于深度网络统计特征重要性重新定义量化表，显著降低物联网系统中的数据传输与能耗，且无准确率损失。

ABSTRACT

As one of most fascinating machine learning techniques, deep neural network (DNN) has demonstrated excellent performance in various intelligent tasks such as image classification. DNN achieves such performance, to a large extent, by performing expensive training over huge volumes of training data. To reduce the data storage and transfer overhead in smart resource-limited Internet-of-Thing (IoT) systems, effective data compression is a "must-have" feature before transferring real-time produced dataset for training or classification. While there have been many well-known image compression approaches (such as JPEG), we for the first time find that a human-visual based image compression approach such as JPEG compression is not an optimized solution for DNN systems, especially with high compression ratios. To this end, we develop an image compression framework tailored for DNN applications, named "DeepN-JPEG", to embrace the nature of deep cascaded information process mechanism of DNN architecture. Extensive experiments, based on "ImageNet" dataset with various state-of-the-art DNNs, show that "DeepN-JPEG" can achieve ~3.5x higher compression rate over the popular JPEG solution while maintaining the same accuracy level for image recognition, demonstrating its great potential of storage and power efficiency in DNN-based smart IoT system design.

研究动机与目标

• 为解决基于人类视觉系统（HVS）的压缩方法（如JPEG）在深度学习工作负载中效率低下的问题，尤其是在高倍率压缩条件下。
• 降低在资源受限的物联网与边缘设备中执行DNN推理时的数据传输与存储开销。
• 开发一种在最大化压缩率的同时保持高DNN分类准确率的压缩框架。
• 基于深度神经网络的频率响应特性而非人类感知来优化量化表。

提出的方法

• 提出一种半解析模型，用于比较人类视觉系统与DNN在频域处理上的差异，识别对分类至关重要的频率分量。
• 对图像类别进行统计频率分量分析，以优化对DNN性能至关重要的特征。
• 设计分段线性映射函数，将优化后的特征统计量映射至各个量化表数值。
• 修改开源IJG JPEG框架，实现专为DNN设计的自定义量化表。
• 在ImageNet评估中使用优化参数（a=255, b=80, c=240, T₁=20, T₂=60, k₁=9.75, k₂=1, k₃=3）。
• 采用非均匀量化策略，在保留高层次语义特征的同时舍弃较不相关的高频分量。

实验结果

研究问题

• RQ1 能否对基于JPEG的压缩框架进行重构，使其更有利于深度神经网络推理准确率，而非人类视觉质量？
• RQ2 DNN的频域响应与人类视觉系统的差异是什么？该差异能否被用于实现更优压缩？
• RQ3 何种量化策略可在最大化压缩率的同时最小化DNN中的准确率退化？
• RQ4 一种通用压缩框架是否能在多种先进DNN架构（如AlexNet、VGG、GoogLeNet和ResNet）上保持高准确率？

主要发现

• DeepN-JPEG在保持与标准JPEG相同ImageNet数据集图像分类准确率的前提下，实现了约3.5倍于标准JPEG的压缩率。
• 该框架在多个模型（包括AlexNet、VGG-16、GoogLeNet以及ResNet-34/50）上均保持原始DNN准确率，展现出强大的泛化能力。
• 在使用DeepN-JPEG时，数据卸载的功耗降低至原始JPEG基线的30%，且无准确率损失。
• 与激进的JPEG变体（如'SAME-Q4'和'RM-HF3'）相比，DeepN-JPEG分别实现了3倍和2倍的功耗降低，归因于更高效的压缩效率。
• 在高倍率压缩下，标准JPEG在AlexNet上导致ImageNet准确率最高达9%的下降，而DeepN-JPEG完全避免了这种退化。
• 所提方法在压缩效率与准确率保持方面均优于基线方法（如'RM-HF'和'SAME-Q'），尤其在高倍率压缩下表现更优。