[論文レビュー] Hierarchical Attention Networks.

Paul Hongsuck Seo, Zhe Lin+3 more|arXiv (Cornell University)|Jun 8, 2016

Advanced Neural Network Applications参考文献 14被引用数 26

ひとこと要約

本稿では、局所的文脈を用いて複数のCNN層にわたり、不要な画像領域を段階的に抑制する階層的アテンションネットワークを提案する。文脈的推論を用いたマルチステージアテンションを適用することで、合成データおよび実データの両方で属性予測の精度が向上し、従来のアテンション機構を上回る。

ABSTRACT

We propose a novel attention network, which accurately attends to target objects of various scales and shapes in images through multiple stages. The proposed network enables multiple layers to estimate attention in a convolutional neural network (CNN). The hierarchical attention model gradually suppresses irrelevant regions in an input image using a progressive attentive process over multiple CNN layers. The attentive process in each layer determines whether to pass or suppress feature maps for use in the next convolution. We employ local contexts to estimate attention probability at each location since it is difficult to infer accurate attention by observing a feature vector from a single location only. The experiments on synthetic and real datasets show that the proposed attention network outperforms traditional attention methods in various attribute prediction tasks.

研究の動機と目的

• 画像内のターゲットオブジェクトが異なるスケールや形状をとる場合のアテンションの課題に対処すること。
• 単一位置の特徴ベクトルではなく、局所的文脈を活用することで、畳み込みニューラルネットワークにおけるアテンションの精度を向上させること。
• CNN層にわたり不要な特徴を段階的に抑制するプログレッシブでマルチレイヤーのアテンション機構を開発すること。
• 階層的アテンションを用いて、属性予測タスクのパフォーマンスを向上させること。

提案手法

• モデルは、複数のCNN層にわたり段階的にアテンション推定を適用する階層的アテンション機構を用いる。
• アテンション確率は、孤立した特徴ベクトルではなく、局所的文脈特徴を用いて計算することで精度を向上させる。
• 各層は推定されたアテンションに基づき、特徴マップを通過させるか抑制するかを決定し、段階的精錬を可能にする。
• ネットワークは局所的文脈を統合して、各空間的位置でのアテンションを推定し、単一点観測への依存を低減する。
• 複数段階のアテンションが適用され、モデルが段階的に関連領域に注目しながらノイズを効果的に抑制できる。

実験結果

リサーチクエスチョン

• RQ1 アテンション機構は、画像内の異なるスケールや形状のオブジェクトを扱うためにどのように改善できるか？
• RQ2 単一位置の特徴分析と比較して、局所的文脈はアテンション推定の精度を向上させるか？
• RQ3 プログレッシブでマルチレイヤーのアテンション機構は、従来の単一段階アテンションを上回るか？
• RQ4 階層的アテンションは、下流タスクのための特徴表現をどの程度向上させるか？

主な発見

• 提案された階層的アテンションネットワークは、従来のアテンション手法と比較して、属性予測タスクで優れたパフォーマンスを達成した。
• 局所的文脈を用いることで、孤立した特徴ベクトルに依存する手法よりも、アテンション推定の精度が向上した。
• プログレッシブでマルチステージのアテンション機構は、CNN層にわたり不要な画像領域を効果的に抑制した。
• 合成データおよび実データの両方での実験により、モデルのロバスト性と一般化能力が確認された。