[论文解读] Adaptively Connected Neural Networks

Guangrun Wang, Keze Wang+1 more|ArXiv.org|Apr 7, 2019

Video Surveillance and Tracking Methods参考文献 58被引用 10

一句话总结

该论文提出自适应连接神经网络（ACNet），一种新颖的架构，可动态在全局和局部推理之间切换特征节点，从而在欧几里得（如图像）和非欧几里得（如图）数据中实现灵活、数据驱动的连接性。ACNet 在 ImageNet-1k、COCO 和 Cora 上实现了最先进性能，通过可微分重要性分数学习最优连接，优于 ResNet 和现有图神经网络（GNNs），同时克服了卷积神经网络（CNNs）和多层感知机（MLPs）的局限性。

ABSTRACT

This paper presents a novel adaptively connected neural network (ACNet) to improve the traditional convolutional neural networks (CNNs) {in} two aspects. First, ACNet employs a flexible way to switch global and local inference in processing the internal feature representations by adaptively determining the connection status among the feature nodes (e.g., pixels of the feature maps) \footnote{In a computer vision domain, a node refers to a pixel of a feature map{, while} in {the} graph domain, a node denotes a graph node.}. We can show that existing CNNs, the classical multilayer perceptron (MLP), and the recently proposed non-local network (NLN) \cite{nonlocalnn17} are all special cases of ACNet. Second, ACNet is also capable of handling non-Euclidean data. Extensive experimental analyses on {a variety of benchmarks (i.e.,} ImageNet-1k classification, COCO 2017 detection and segmentation, CUHK03 person re-identification, CIFAR analysis, and Cora document categorization) demonstrate that {ACNet} cannot only achieve state-of-the-art performance but also overcome the limitation of the conventional MLP and CNN \footnote{Corresponding author: Liang Lin ([e-mail])}. The code is available at \url{https://github.com/wanggrun/Adaptively-Connected-Neural-Networks}.

研究动机与目标

• 解决 CNN 在捕捉全局依赖方面的局限性以及 MLP 在处理空间结构方面的不足。
• 克服现有方法（如非局部网络）中存在的过度局部化和过度全局化问题。
• 在单一可微分框架下统一 MLP 和 CNN，使其能够同时处理欧几里得和非欧几里得数据。
• 开发一种参数高效、灵活的架构，实现每个节点最优连接模式的学习。
• 在视觉和图学习任务中展示泛化能力。

提出的方法

• ACNet 将‘节点’定义为特征向量单元（如像素、音频样本、图节点），从而实现对多样化数据类型的统一处理。
• 通过类似注意力的权重，将特征变换表述为局部、全局和自连接的可学习组合。
• 通过可微分参数（α, β, γ）建模连接重要性，支持端到端反向传播以学习最优连接。
• 引入位置编码，通过减少自由度来稳定在非结构化非欧几里得数据上的训练。
• 该架构将 MLP 和 CNN 作为特例统一，ACNet 是一种支持自适应连接的统一框架。
• 模型使用可学习的聚合函数：H′ = ∑j qij(xjw) + ∑j qij(xjw) + ∑j qij(xjw)，其中 qij 表示自连接、局部连接和全局连接的已学习注意力权重。

实验结果

研究问题

• RQ1 神经网络能否以数据驱动、可微分的方式在局部和全局推理之间动态切换？
• RQ2 与 CNN 和 MLP 中固定的连接方式相比，自适应连接如何提升图像和图数据上的性能？
• RQ3 在文档引用网络等非欧几里得数据中，全局推理与局部推理的贡献分别是什么？
• RQ4 位置编码如何影响在非结构化图数据上的训练稳定性和性能？
• RQ5 ACNet 是否能在包括图像分类、目标检测和节点分类在内的多样化基准上实现泛化？

主要发现

• 在 ImageNet-1k 上，ACNet 的训练和验证 Top-1 误差均低于 ResNet，表明其优化和泛化能力更强。
• 在 Cora 引用网络上，ACNet 达到 83.5% 的准确率，优于最先进 GNN 如 Dual GCN（83.5%）
• 移除全局推理在 Cora 上导致性能下降 1.4%，证实其在捕捉长距离语义依赖中的关键作用。
• 移除局部推理导致性能下降 7.2%，表明局部结构和引用模式对节点分类至关重要。
• 固定全局+局部连接（使用恒定注意力权重）的性能比自适应版本低 0.8%，证明了动态切换的优势。
• 移除位置编码后性能下降 0.5%，表明其在稳定非结构化图数据训练中的重要性。