[논문 리뷰] Ask, Attend and Answer: Exploring Question-Guided Spatial Attention for Visual Question Answering

Huijuan Xu, Kate Saenko|arXiv (Cornell University)|2015. 11. 17.

Multimodal Machine Learning Applications참고 문헌 30인용 수 105

한 줄 요약

이 논문은 시각질문응답(VQA)를 위한 공간 메모리 네트워크(SMem-VQA)를 제안한다. 이는 질문에 따라 이미지 영역에 대한 공간 주의를 갖는 다단계 메모리 네트워크로, 질문에 의해 유도되는 주의를 통해 공간 추론을 명시적으로 모델링함으로써 VQA 성능을 향상시킨다. 이 모델은 VQA 및 DAQUAR 데이터셋에서 최신 기준 성능을 달성하였으며, VQA test-standard 분할에서 iBOWIMG 기준보다 2.35% 향상된 성능을 보였고, 주의 기반 추론 단계를 해석 가능한 방식으로 시각화할 수 있다.

ABSTRACT

We address the problem of Visual Question Answering (VQA), which requires joint image and language understanding to answer a question about a given photograph. Recent approaches have applied deep image captioning methods based on convolutional-recurrent networks to this problem, but have failed to model spatial inference. To remedy this, we propose a model we call the Spatial Memory Network and apply it to the VQA task. Memory networks are recurrent neural networks with an explicit attention mechanism that selects certain parts of the information stored in memory. Our Spatial Memory Network stores neuron activations from different spatial regions of the image in its memory, and uses the question to choose relevant regions for computing the answer, a process of which constitutes a single "hop" in the network. We propose a novel spatial attention architecture that aligns words with image patches in the first hop, and obtain improved results by adding a second attention hop which considers the whole question to choose visual evidence based on the results of the first hop. To better understand the inference process learned by the network, we design synthetic questions that specifically require spatial inference and visualize the attention weights. We evaluate our model on two published visual question answering datasets, DAQUAR [1] and VQA [2], and obtain improved results compared to a strong deep baseline model (iBOWIMG) which concatenates image and question features to predict the answer [3].

연구 동기 및 목표

• 기존의 전역 이미지 특징과 순환 네트워크에 의존하는 VQA 모델들이 명시적인 공간 추론을 부족하게 다루고 있는 문제를 해결하기 위해.
• 객체의 위치와 관계를 메모리 네트워크 아키텍처를 통해 모델링하여 시각질문응답 모델이 다단계 공간 추론을 수행할 수 있도록 하기 위해.
• 질문의 각 단어를 특정 이미지 영역과 정렬할 수 있는 질문 유도 공간 주의 메커니즘을 설계하여 세밀한 증거 수집을 가능하게 하기 위해.
• 공간 추론이 필요한 합성 질문을 통해 모델의 추론 과정을 평가하고, 주의 가중치를 시각화하여 모델 행동을 해석하기 위해.
• iBOWIMG 및 DPPnet과 같은 강력한 기준 모델에 비해 표준 VQA 및 DAQUAR 벤치마크에서 향상된 성능을 달성하기 위해.

제안 방법

• 모델은 이미지의 다양한 공간 영역에서 추출한 특징 활성화를 메모리 벡터로 저장하는 메모리 네트워크를 사용하여, 시각적 특징에 대한 공간 주의를 가능하게 한다.
• 첫 번째 힙에서는 각 단어 임베딩과 이미지 패치 특징 간의 상관관계 점수를 계산하여 단어 수준의 주의를 적용함으로써, 질문 단어와 이미지 영역 간의 세밀한 정렬을 가능하게 한다.
• 두 번째 힙에서는 첫 번째 힙에서 주의를 받은 특징과 전체 질문 임베딩을 사용하여 정교화된 주의 맵을 계산하여, 답변 예측을 위한 더 정밀한 시각적 증거를 선택한다.
• 모델은 답변 예측에 대한 교차 엔트로피 손실을 사용하여 엔드 투 엔드로 훈련되며, 주의 가중치는 역전파를 통해 학습된다.
• 세 번째 힙을 탐색했지만 성능 향상이 없었으며, 이는 두 번째 힙을 초과해 수익 감소 현상이 발생함을 시사한다.
• 모델은 VQA 및 DAQUAR 데이터셋에서 평가되었으며, 주의 가중치는 공간 추론 과정을 해석하기 위해 시각화되었다.

실험 결과

연구 질문

• RQ1 공간 주의를 갖는 메모리 네트워크가 이미지 영역을 다단계로 추론하여 시각질문에 답하는 데 성공할 수 있는가?
• RQ2 질문 유도 공간 주의가 전역 이미지 특징 모델에 비해 VQA 성능을 향상시키는가?
• RQ3 모델의 주의 메커니즘을 시각화하여 공간 관계 기반 논리적 추론 단계를 드러낼 수 있는가?
• RQ4 일단 힙, 두 번째 힙, 세 번째 힙 버전 간의 성능를 비교했을 때, 두 번째 힙 주의 기반 모델은 어떤가?
• RQ5 공간 추론이 필요한 합성 질문이 모델의 추론 능력을 효과적으로 진단하고 검증하는 데 유용한가?

주요 결과

• SMem-VQA 두 번째 힙 모델은 VQA 데이터셋에서 테스트 표준 분할에서 58.24%의 정확도를 달성하여 iBOWIMG 기준(55.89%)보다 2.35% 향상된 성능을 보였다.
• DAQUAR 데이터셋에서는 SMem-VQA 두 번째 힙 모델이 79.05%의 정확도를 기록하여 iBOWIMG 기준(76.55%)을 초월했다.
• 모델은 복잡한 공간 추론 카테고리에서 특히 뛰어난 정확도를 보이며, 공간 질문에 대한 일반화 능력이 향상됨을 시사한다.
• 주의 가중치의 시각화 결과는 모델이 특정 질문 단어(예: '고양이', '바구니')를 해당 이미지 영역과 정렬하는 것을 학습했음을 확인하였으며, 이는 추론 과정을 해석 가능한 방식으로 가능하게 한다.
• 두 번째 힙을 추가함으로써 일단 힙 버전(56.56% on VQA test-standard)보다 성능 향상이 이루어졌으며, 이는 다단계 추론이 공간 추론을 향상시킴을 보여준다.
• 세 번째 힙은 성능 향상에 기여하지 않아, 이 설정에서는 두 번째 힙이 공간 주의에 대해 충분히 효과적인 것으로 나타났다.