[论文解读] Hierarchical Attention Networks.

Paul Hongsuck Seo, Zhe Lin+3 more|arXiv (Cornell University)|Jun 8, 2016

Advanced Neural Network Applications参考文献 14被引用 26

一句话总结

本文提出一种分层注意力网络，通过利用局部上下文在多个CNN层中逐步抑制无关图像区域，以估计注意力概率。通过应用具有上下文推理的多阶段注意力，该模型在合成数据集和真实数据集上的属性预测准确率均得到提升，优于传统注意力机制。

ABSTRACT

We propose a novel attention network, which accurately attends to target objects of various scales and shapes in images through multiple stages. The proposed network enables multiple layers to estimate attention in a convolutional neural network (CNN). The hierarchical attention model gradually suppresses irrelevant regions in an input image using a progressive attentive process over multiple CNN layers. The attentive process in each layer determines whether to pass or suppress feature maps for use in the next convolution. We employ local contexts to estimate attention probability at each location since it is difficult to infer accurate attention by observing a feature vector from a single location only. The experiments on synthetic and real datasets show that the proposed attention network outperforms traditional attention methods in various attribute prediction tasks.

研究动机与目标

• 解决在图像中关注不同尺度和形状目标物的挑战。
• 通过利用局部上下文而非单点特征向量，提升卷积神经网络中的注意力准确率。
• 开发一种渐进式、多层注意力机制，以在CNN各层中抑制无关特征。
• 通过分层注意力提升属性预测任务的性能。

提出的方法

• 该模型使用一种分层注意力机制，在多个CNN层中以渐进方式应用注意力估计。
• 注意力概率通过局部上下文特征计算，而非孤立的特征向量，以提升准确率。
• 每一层根据估计的注意力决定是否传递或抑制特征图，从而实现渐进式优化。
• 网络在每个空间位置整合局部上下文以估计注意力，减少对单点观测的依赖。
• 应用多个阶段的注意力，使模型能够逐步聚焦于相关区域，同时抑制噪声。

实验结果

研究问题

• RQ1 如何改进注意力机制，以处理图像中尺度和形状各异的目标？
• RQ2 与单点特征分析相比，局部上下文能否提升注意力估计的准确率？
• RQ3 渐进式、多层注意力机制是否在属性预测任务中优于传统单阶段注意力？
• RQ4 分层注意力在多大程度上提升了下游任务的特征表示能力？

主要发现

• 所提出的分层注意力网络在属性预测任务中的表现优于传统注意力方法。
• 通过利用局部上下文，该模型在注意力估计准确率上优于依赖孤立特征向量的方法。
• 渐进式、多阶段注意力机制能有效抑制CNN各层中的无关图像区域。
• 在合成数据集和真实数据集上的实验结果证实了该模型的鲁棒性与泛化能力。