[논문 리뷰] Counterfactual Samples Synthesizing for Robust Visual Question Answering

Long Chen, Xin Yan외 4명|arXiv (Cornell University)|2020. 03. 14.

Multimodal Machine Learning Applications참고 문헌 41인용 수 27

한 줄 요약

이 논문은 시각적 질의 응답(VQA) 모델의 성능을 햖을 수 있도록, 이미지의 핵심 객체를 마스킹함으로써 반사적 훈련 샘플을 생성하는 모델에 종속적이지 않은 반사적 샘플 생성(CSS) 훈련 방식을 제안한다. (V-CSS) 또는 질문의 핵심 단어를 [MASK]로 대체함으로써 (Q-CSS), 새로운 참값 답변을 할당한다. 이 방법은 시각적 설명 가능성과 질문 민감도를 크게 향상시키며, VQA-CP v2에서 새로운 최고 성능인 58.95%의 정확도를 달성한다.

ABSTRACT

Despite Visual Question Answering (VQA) has realized impressive progress over the last few years, today's VQA models tend to capture superficial linguistic correlations in the train set and fail to generalize to the test set with different QA distributions. To reduce the language biases, several recent works introduce an auxiliary question-only model to regularize the training of targeted VQA model, and achieve dominating performance on VQA-CP. However, since the complexity of design, current methods are unable to equip the ensemble-based models with two indispensable characteristics of an ideal VQA model: 1) visual-explainable: the model should rely on the right visual regions when making decisions. 2) question-sensitive: the model should be sensitive to the linguistic variations in question. To this end, we propose a model-agnostic Counterfactual Samples Synthesizing (CSS) training scheme. The CSS generates numerous counterfactual training samples by masking critical objects in images or words in questions, and assigning different ground-truth answers. After training with the complementary samples (ie, the original and generated samples), the VQA models are forced to focus on all critical objects and words, which significantly improves both visual-explainable and question-sensitive abilities. In return, the performance of these models is further boosted. Extensive ablations have shown the effectiveness of CSS. Particularly, by building on top of the model LMH, we achieve a record-breaking performance of 58.95% on VQA-CP v2, with 6.5% gains.

연구 동기 및 목표

• 현재의 앙상블 기반 VQA 모델이 시각적 설명 가능성과 질문 민감도 행동을 달성하지 못하는 문제를 해결하기 위해.
• 학습 데이터의 표면적 언어적 상관관계로 인해 발생하는 언어 편향을 줄이기 위해.
• VQA-CP와 같은 분포 이탈 테스트 세트에서의 일반화 능력을 향상시키기 위해, 시각적 및 언어적 변형에 대한 민감도를 높이기 위해.
• 모델에 종속적이지 않고 다양한 VQA 아키텍처에 효과적으로 적용 가능한 즉각 통합 가능한 훈련 방식을 개발하기 위해.
• 시각적 주의력 정밀도와 언어 강인성을 동시에 향상시키는 통합된 솔루션을 제공하기 위해.

제안 방법

• CSS는 두 가지 메커니즘을 통해 반사적 샘플을 생성한다: V-CSS는 이미지의 핵심 객체를 마스킹하고, 다른 참값 답변을 할당한다.
• Q-CSS는 질문의 핵심 단어를 [MASK] 토큰으로 대체하고, 새로운 이미지-질문 쌍에 대해 다른 참값 답변을 할당한다.
• 이 방법은 모델에 종속적이며, 아키텍처 변경 없이도 어떤 VQA 모델에나 훈련 중에 통합될 수 있다.
• 훈련 과정에는 원본 샘플과 함께 합성된 반사적 샘플이 포함되어, 모델이 관련된 시각적 및 언어적 신호에 주의를 기울이도록 유도한다.
• 마스킹할 핵심 시각적 객체와 단어를 식별하기 위해 주의 기반 샛별 점수(s(a, v) 및 s(a, w))를 사용한다.
• 비판적 단어 제거 시 신뢰도 감소를 측정함으로써 질문 민감도 행동을 정량적으로 평가하기 위해 새로운 지표인 신뢰도 향상(CI)을 도입한다.

실험 결과

연구 질문

• RQ1 반사적 샘플 생성이 VQA 모델의 시각적 설명 가능성 능력을 향상시킬 수 있는가?
• RQ2 제안된 방법이 질문의 언어적 변형에 대한 모델 민감도를 향상시키는가?
• RQ3 CSS 훈련 방식이 앙상블 기반 아키텍처를 포함한 다양한 VQA 모델에서 일관되게 성능 향상을 이끌 수 있는가?
• RQ4 이 방법은 VQA-CP-Rephrasings에서 재구성된 질문에 대한 강인성에 어떤 영향을 미치는가?
• RQ5 CSS는 학습 데이터에서의 허위 언어적 상관관계에 대한 의존도를 어느 정도 감소시키는가?

주요 결과

• CSS는 VQA-CP v2에서 이전 최고 성능 모델인 LMH보다 6.5%p 높은 새로운 최고 성능인 58.95%를 달성한다.
• 시각적 설명 가능성 능력이 크게 향상되었으며, 관련 시각적 객체에 대해 높은 주의 점수를 기록하고, 관련이 없는 객체에 대한 영향은 감소된 것으로 나타났다.
• 질문 민감도 능력이 향상되었으며, VQA-CP-Rephrasings에서 공감 점수(CS(k))가 15.2% 향상되어 질문 재구성에 대한 강인성이 높아진 것으로 나타났다.
• 신뢰도 향상(CI) 지표는 CSS 적용 시 비판적 단어 제거 시 참값 답변에 대한 신뢰도 감소가 뚜렷하게 크다는 것을 보여주었다.
• 제거 실험 결과, V-CSS와 Q-CSS가 성능 향상에 독립적으로 기여하며, 특히 Q-CSS가 언어 강인성 향상에 더 강력한 영향을 미친다.
• 정성적 분석 결과, CSS로 훈련된 모델는 핵심 시각적 객체(초록 박스)와 핵심 언어적 단어(더 진한 초록색)에 더 정확하게 주의를 기울이며, 허위 신호에 대한 의존도를 줄였다.