[논문 리뷰] Hierarchical Attention Networks.

Paul Hongsuck Seo, Zhe Lin외 3명|arXiv (Cornell University)|2016. 06. 08.

Advanced Neural Network Applications참고 문헌 14인용 수 26

한 줄 요약

이 논문은 국소적 맥락을 사용하여 다중 CNN 레이어를 거쳐 불필요한 이미지 영역을 점진적으로 억제하는 계층적 어텐션 네트워크를 제안한다. 지역적 추론을 통한 다단계 어텐션을 적용함으로써, 합성 및 실재 데이터셋 모두에서 속성 예측 정확도가 향상되어 전통적인 어텐션 메커니즘을 능가한다.

ABSTRACT

We propose a novel attention network, which accurately attends to target objects of various scales and shapes in images through multiple stages. The proposed network enables multiple layers to estimate attention in a convolutional neural network (CNN). The hierarchical attention model gradually suppresses irrelevant regions in an input image using a progressive attentive process over multiple CNN layers. The attentive process in each layer determines whether to pass or suppress feature maps for use in the next convolution. We employ local contexts to estimate attention probability at each location since it is difficult to infer accurate attention by observing a feature vector from a single location only. The experiments on synthetic and real datasets show that the proposed attention network outperforms traditional attention methods in various attribute prediction tasks.

연구 동기 및 목표

• 이미지 내 다양한 크기와 형태를 가진 대상 객체에 주의를 기울이는 데 도전 과제를 해결하기 위해.
• 단일 위치 특징 벡터 대신 국소적 맥락을 활용하여 컨volutional 신경망 내 어텐션 정확도를 향상시키기 위해.
• CNN 레이어를 거쳐 불필요한 특징을 억제하는 점진적, 다층 어텐션 메커니즘을 개발하기 위해.
• 계층적 어텐션을 통해 속성 예측 작업의 성능을 향상시키기 위해.

제안 방법

• 모델는 다중 CNN 레이어에 걸쳐 점진적인 방식으로 어텐션 추정을 적용하는 계층적 어텐션 메커니즘을 사용한다.
• 정확도를 향상시키기 위해 고립된 특징 벡터 대신 국소적 맥락 특징을 사용하여 어텐션 확률을 계산한다.
• 각 레이어는 추정된 어텐션에 따라 특징 맵을 통과시키거나 억제할지 결정함으로써 점진적인 정밀도 향상을 가능하게 한다.
• 국소적 맥락을 통합하여 각 공간 위치에서 어텐션을 추정함으로써 단일 지점 관측에 대한 의존도를 줄인다.
• 다중 단계의 어텐션을 적용하여 모델이 노이즈를 억제하면서 점차 관련 영역에 집중할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 이미지 내 다양한 크기와 형태를 가진 객체를 다룰 수 있도록 어텐션 메커니즘을 어떻게 향상시킬 수 있는가?
• RQ2 단일 위치 특징 분석에 비해 국소적 맥락이 어텐션 추정 정확도를 향상시킬 수 있는가?
• RQ3 진행적이고 다층적인 어텐션 메커니즘이 속성 예측에서 전통적인 단일 단계 어텐션보다 우월한가?
• RQ4 계층적 어텐션은 후속 작업을 위한 특징 표현을 어느 정도 향상시키는가?

주요 결과

• 제안된 계층적 어텐션 네트워크는 기존의 어텐션 방법에 비해 속성 예측 작업에서 뛰어난 성능을 달성한다.
• 국소적 맥락을 사용함으로써 고립된 특징 벡터에 의존하는 방법보다 어텐션 추정 정확도가 향상된다.
• 진행적이고 다단계 어텐션 메커니즘은 CNN 레이어 전반에 걸쳐 불필요한 이미지 영역을 효과적으로 억제한다.
• 합성 및 실재 데이터셋에 대한 실험을 통해 모델의 강건성과 일반화 능력이 확인되었다.