[论文解读] Single-Training Collaborative Object Detectors Adaptive to Bandwidth and Computation

Juliano S. Assine, José Cândido Silveira Santos Filho+1 more|arXiv (Cornell University)|May 3, 2021

Advanced Neural Network Applications参考文献 39被引用 4

一句话总结

本文提出一种单次训练的协作式目标检测器，通过使用统一的权重集，动态适应带宽和计算资源限制，实现在无需微调的情况下实时配置。该方法在 COCO-2017 上实现最先进性能，EfficientDet-D2 的 mAP@50:95 仅轻微下降至 40.53%，展现出在不同架构和实现选择下的强大鲁棒性。

ABSTRACT

In the past few years, mobile deep-learning deployment progressed by leaps and bounds, but solutions still struggle to accommodate its severe and fluctuating operational restrictions, which include bandwidth, latency, computation, and energy. In this work, we help to bridge that gap, introducing the first configurable solution for object detection that manages the triple communication-computation-accuracy trade-off with a single set of weights. Our solution shows state-of-the-art results on COCO-2017, adding only a minor penalty on the base EfficientDet-D2 architecture. Our design is robust to the choice of base architecture and compressor and should adapt well for future architectures.

研究动机与目标

• 解决在受带宽、延迟、计算能力和能耗限制的移动及嵌入式设备上部署深度学习模型的挑战。
• 克服现有自适应模型的局限性，即每种运行条件都需要单独训练和独立权重集。
• 利用单一模型实现实时、即插即用的自适应，使目标检测器能够根据变化的网络和计算约束动态调整。
• 设计一种完全可微分、端到端可训练的分割推理系统，支持带宽与计算的可配置性。
• 在多种基础架构（如 EfficientDet、Faster R-CNN、Mask R-CNN）和压缩器设计之间实现泛化能力。

提出的方法

• 提出一种可配置的分割目标检测框架，其中编码器（设备端）与解码器（远程端）通过单一共享权重集联合训练。
• 在编码器与解码器之间集成一个可学习、可微分的压缩器与解压缩器，实现整个流水线的端到端优化。
• 基于基础检测器的最后层（如 EfficientDet-D2）构建压缩器与解压缩器的共享架构，确保特征兼容性。
• 将特征量化作为可配置的超参数，以控制带宽使用，同时通过可学习压缩保持模型性能。
• 采用知识蒸馏和架构设计选择（如 SRU、CRU）在压缩条件下保持检测精度。
• 使用统一的损失函数端到端训练模型，以平衡检测性能与压缩保真度。

实验结果

研究问题

• RQ1 单套权重是否能够实现目标检测模型在不同带宽和计算资源限制下的动态自适应？
• RQ2 与不可微分或固定配置的替代方案相比，统一的可微分压缩模块性能如何？
• RQ3 所提方法在基础架构、压缩器设计和实现细节变化下的鲁棒性如何？
• RQ4 模型是否能在不重新训练的情况下，在广泛变化的带宽和计算设置下保持高精度？
• RQ5 特定设计选择（如批归一化统计量、随机深度或预训练）对最终检测性能有何影响？

主要发现

• 所提方法在 COCO-2017 上使用 EfficientDet-D2 达到 40.53% mAP@50:95，仅与完整模型相比有轻微下降，表明具有出色的精度保持能力。
• 该模型在多种基础架构（包括 Faster R-CNN、Mask R-CNN 和 EfficientDet）上均保持高性能，展现出强大的泛化能力。
• 仅使用简单特征量化可实现可预测的带宽缩减，但精度-压缩权衡不理想；结合可学习压缩可显著提升可配置性。
• 压缩器选择（如 SRU+CRU 与最后一层）对性能影响极小，最优与最差配置间仅相差 0.13% mAP。
• 对编码器进行预训练可提升 0.3 个百分点（40.53% vs. 40.23%），但随机初始化仍能取得优异结果。
• 对 EfficientDet 而言，推理阶段的批归一化统计量调整会损害性能，凸显模型特异性敏感性。