[论文解读] Building Efficient Deep Neural Networks with Unitary Group Convolutions

Ritchie Zhao, Yuwei Hu+3 more|arXiv (Cornell University)|Nov 19, 2018

Advanced Neural Network Applications参考文献 28被引用 5

一句话总结

该论文提出了一种新型CNN模块——酉群卷积（UGConvs），通过在特征空间中结合群卷积与密集酉变换，提升跨通道表征学习能力。该方法将ShuffleNet与块循环网络统一于同一框架下，并提出HadaNet，利用哈达玛变换在保持与ShuffleNet相同参数量和FLOP数的前提下实现更高准确率，同时计算复杂度低于基于DFT的方法。

ABSTRACT

We propose unitary group convolutions (UGConvs), a building block for CNNs which compose a group convolution with unitary transforms in feature space to learn a richer set of representations than group convolution alone. UGConvs generalize two disparate ideas in CNN architecture, channel shuffling (i.e. ShuffleNet) and block-circulant networks (i.e. CirCNN), and provide unifying insights that lead to a deeper understanding of each technique. We experimentally demonstrate that dense unitary transforms can outperform channel shuffling in DNN accuracy. On the other hand, different dense transforms exhibit comparable accuracy performance. Based on these observations we propose HadaNet, a UGConv network using Hadamard transforms. HadaNets achieve similar accuracy to circulant networks with lower computation complexity, and better accuracy than ShuffleNets with the same number of parameters and floating-point multiplies.

研究动机与目标

• 将两种不同的高效CNN研究方向——通道混洗（ShuffleNet）与块循环权值（CirCNN）——统一于同一理论框架下。
• 探究不同酉变换对群卷积层中表征学习的影响。
• 通过用密集酉变换替代通道混洗，设计更高效、更准确的网络架构。
• 提出HadaNet，一种基于UGConv的网络，实现SOTA准确率且计算开销极低。
• 评估酉变换在硬件优化推理场景（尤其是FPGA与ASIC）中的实用性。

提出的方法

• 提出酉群卷积（UGConvs）作为群卷积与特征空间中酉变换组合的结构。
• 证明ShuffleNet（含通道混洗）与CirCNN（含块循环权值）均为UGConvs的特例。
• 采用密集酉变换（如哈达玛变换与DFT变换）替代或增强群卷积中的通道混洗。
• 在HadaNet中使用双边块哈达玛变换，实现高效递归计算，复杂度为O(N log N)。
• 通过递归分解实现快速哈达玛变换，相比基于DFT的方法显著降低计算成本。
• 在CIFAR-10与ImageNet上使用基线模型的标准训练协议与超参数评估性能。

实验结果

研究问题

• RQ1 在特征空间中使用酉变换是否能超越群卷积中简单的通道混洗，提升表征学习能力？
• RQ2 不同密集酉变换（如哈达玛变换、DFT）与基于排列的混洗相比，在准确率与效率方面表现如何？
• RQ3 用密集酉变换替代通道混洗后，在相同参数量与FLOP数下是否能获得更好性能？
• RQ4 哈达玛变换能否用于构建比现有SOTA模型（如ShuffleNet与CirCNN）更高效、更准确的网络？
• RQ5 集成酉变换带来的计算开销（如额外加法操作）如何？是否适合硬件加速？

主要发现

• HadaNet采用双边块哈达玛变换，在ImageNet上以与ShuffleNet-x0.25-g8相同的参数量与FLOP预算下，实现53.6%的Top-1错误率，准确率相当但计算复杂度更低。
• 在ResNet-18上，群大小为8与16时，HadaNet的准确率优于ShuffleNet，表明密集变换在高稀疏性场景下优于混洗操作。
• 引入哈达玛变换仅增加2–5%的浮点加法操作，与现有乘加运算相比开销极小。
• 快速哈达玛变换因其递归结构，有利于高效硬件映射，相比基于DFT的方法更适合FPGA与ASIC实现。
• 实证结果表明，当组数较大时，密集酉变换显著优于简单排列（如通道混洗），表明跨通道信息流动得到改善。
• UGConv框架成功统一了ShuffleNet与块循环网络，揭示二者均依赖于在变换后的特征基下学习，从而增强表征能力。