[论文解读] R(Det)^2: Randomized Decision Routing for Object Detection

Yali Li, Shengjin Wang|arXiv (Cornell University)|Apr 2, 2022

Advanced Neural Network Applications被引用 5

一句话总结

该论文提出R(Det)²，一种新颖的端到端目标检测框架，通过在决策头中引入软决策树，将路由决策与预测值解耦。通过引入具有节点选择性和关联性损失的随机化决策路由机制，实现了多个树节点间差异化的、具有代表性的特征学习，在现有检测器上于MS-COCO数据集上实现了1.4–3.6%的AP提升。

ABSTRACT

In the paradigm of object detection, the decision head is an important part, which affects detection performance significantly. Yet how to design a high-performance decision head remains to be an open issue. In this paper, we propose a novel approach to combine decision trees and deep neural networks in an end-to-end learning manner for object detection. First, we disentangle the decision choices and prediction values by plugging soft decision trees into neural networks. To facilitate effective learning, we propose randomized decision routing with node selective and associative losses, which can boost the feature representative learning and network decision simultaneously. Second, we develop the decision head for object detection with narrow branches to generate the routing probabilities and masks, for the purpose of obtaining divergent decisions from different nodes. We name this approach as the randomized decision routing for object detection, abbreviated as R(Det)$^2$. Experiments on MS-COCO dataset demonstrate that R(Det)$^2$ is effective to improve the detection performance. Equipped with existing detectors, it achieves $1.4\sim 3.6$\% AP improvement.

研究动机与目标

• 为解决深度目标检测器中单节点决策头的局限性，其可能限制特征探索与性能表现。
• 设计一种可学习的、基于树结构的决策机制，将路由决策与预测值分离，以提升泛化能力。
• 通过端到端训练结合软决策树，实现在目标检测中多节点、差异化的决策机制。
• 通过增强特征表示与决策多样性，提升检测精度，尤其是对大目标的检测性能。

提出的方法

• 将软决策树集成到目标检测器的决策头中，以解耦路由决策与预测值。
• 提出一种基于窄分支生成路由概率、宽分支生成节点级路由掩码的随机化决策路由机制。
• 引入节点选择性损失以促进树节点间差异化的特征探索，同时引入关联性损失以对齐预测结果与真实目标。
• 采用端到端训练策略，联合优化深度神经网络与软决策树组件。
• 采用树状结构架构，最终预测结果为基于路由概率加权的各节点输出之和。
• 将该方法应用于单阶段与两阶段检测器（如Faster R-CNN、Cascade R-CNN），仅需极少的架构修改。

实验结果

研究问题

• RQ1 与标准的单节点头相比，基于树结构的决策头是否可通过多节点路由机制提升目标检测性能？
• RQ2 如何有效将软决策树集成到深度神经网络中，以实现在目标检测任务中的端到端训练？
• RQ3 结合选择性损失与关联性损失的随机化决策路由是否能增强特征表示与决策多样性？
• RQ4 R(Det)²在不同目标尺寸与主干网络架构下，检测精度的提升程度如何？

主要发现

• 当集成到Faster R-CNN与Cascade R-CNN等现有检测器中时，R(Det)²在MS-COCO数据集上实现了1.4–3.6%的AP提升。
• 在12个训练轮次下，R(Det)²使用ResNeXt-101-DCN主干网络在COCO上达到50.0%的AP，优于Faster R-CNN与Cascade R-CNN。
• 在相同主干网络下，R(Det)²在24个训练轮次与测试时增强下，达到54.1%的AP与72.4%的AP₅₀，分别较DyHead提升0.3%（AP₅₀）与1.0%（APₗ）。
• 使用Swin-L作为主干网络时，R(Det)²在多尺度测试与12个训练轮次下达到57.4%的AP，展现出在不同架构间的强大泛化能力。
• 该方法显著提升了大目标的检测精度，表明决策头中特征利用能力得到增强。
• 消融实验证实，结合节点选择性损失与关联性损失的随机化路由机制对性能提升至关重要。