[논문 리뷰] Supervising the Transfer of Reasoning Patterns in VQA

Corentin Kervadec, Christian Wolf외 3명|arXiv (Cornell University)|2021. 06. 10.

AI-based Problem Solving and Planning참고 문헌 41인용 수 5

한 줄 요약

이 논문은 정확한(오라클) 시각 입력에서 훈련된 모델들이 전달하는 추론 패턴을 노이즈가 있는 실세계 VQA 입력으로 이식하기 위해 프로그램 감독 방법을 제안한다. 추론 프로그램을 예측하기 위한 정규화 항을 손실 함수에 추가함으로써, 이 방법은 추론 일반화 능력을 향상시키고, 표본 복잡도를 이론적으로 감소시키며, 특히 제한된 훈련 데이터로도 GQA에서 최신 기술 수준(SOTA) 성능을 달성한다. 이는 분포 외(out-of-distribution) 및 꼬리-정확도(tail-accuracy) 세트에서 특히 두드러진 성능 향상을 보인다.

ABSTRACT

Methods for Visual Question Anwering (VQA) are notorious for leveraging dataset biases rather than performing reasoning, hindering generalization. It has been recently shown that better reasoning patterns emerge in attention layers of a state-of-the-art VQA model when they are trained on perfect (oracle) visual inputs. This provides evidence that deep neural networks can learn to reason when training conditions are favorable enough. However, transferring this learned knowledge to deployable models is a challenge, as much of it is lost during the transfer. We propose a method for knowledge transfer based on a regularization term in our loss function, supervising the sequence of required reasoning operations. We provide a theoretical analysis based on PAC-learning, showing that such program prediction can lead to decreased sample complexity under mild hypotheses. We also demonstrate the effectiveness of this approach experimentally on the GQA dataset and show its complementarity to BERT-like self-supervised pre-training.

연구 동기 및 목표

• 데이터셋 편향과 시각 입력의 노이즈로 인한 VQA 모델의 열악한 일반화 능력을 해결하기 위해.
• 오라클(완벽한) 시각 입력에서 학습된 추론 능력을 실세계 노이즈가 있는 시각 표현으로 훈련된 모델로 전이하기 위해.
• 추론 프로그램의 구조적 감독를 통해 추론 작업의 표본 복잡도를 감소시키기 위해.
• VQA에서 분포 외 및 드문 답변 카테고리에서의 성능 향상하기 위해.
• BERT 유사 자기지도 학습 사전 훈련과의 상호보완성을 입증하기 위해.

제안 방법

• 답변 예측과 함께 추론 프로그램(작업 시퀀스)을 예측하기 위한 보조 손실을 추가하는 프로그램 감독 모듈을 도입한다.
• 청결한 시각 입력에서 노이즈가 있는 시각 입력으로의 전이 과정에서 추론 패턴의 일관성을 유지하기 위해 손실 함수에 정규화 항을 사용한다.
• 복잡한 추론 함수를 더 단순하고 학습 가능한 구성요소(모드 선택기 및 개별 모드 함수)로 분해함으로써 학습을 용이하게 한다.
• 더 나은 입력 표현을 위해 Faster R-CNN 또는 더 정확한 VinVL 모델에서 유도된 시각 특징을 사용하는 비전-언어 트랜스포머를 활용한다.
• 이론적 분석을 통해 PAC-학습 이론을 활용하여, 미약한 가정 하에 프로그램 감독이 표본 복잡도 감소를 가능하게 함을 보여준다.
• 프로그램 주석이 있는 GQA 데이터셋을 활용하여, 오라클 훈련 모델에서 실세계 적용으로의 전이를 가능하게 한다.

실험 결과

연구 질문

• RQ1 오라클 입력에서의 추론 패턴을 노이즈가 있는 실세계 입력으로 전이하기 위해 추론 프로그램 예측을 감독하는 것이 성능 향상에 기여하는가?
• RQ2 이론적 분석에 따르면, 프로그램 감독이 시각 추론 작업의 표본 복잡도 감소에 기여하는가?
• RQ3 BERT와 같은 표준 사전 훈련 방법과 비교했을 때, 프로그램 감독은 분포 내 및 분포 외 데이터에서 성능 및 내성에 어떤 영향을 미치는가?
• RQ4 프로그램 감독은 향상된 시각 입력 표현(예: 더 많은 객체 제안 또는 더 나은 특징)을 더 효과적으로 활용할 수 있는가?
• RQ5 프로그램 감독은 드문 또는 꼬리-답변 카테고리에서 VQA 성능 향상에 얼마나 기여하는가?

주요 결과

• 제안된 방법은 GQA test-std 세트에서 63.0%의 정확도를 달성하여, 추가 훈련 데이터를 사용하지 않은 방법 중 두 번째로 높은 순위를 기록했다.
• GQA-OOD 꼬리 세트에서는 80.1%의 정확도를 기록하여 두 번째로 높은 결과를 내며, SOTA 모델들(212M 대비 26M)보다 훨씬 적은 파라미터를 사용했다.
• 단지 0.1M장의 이미지와 100만 개의 문장으로도, 570만 장의 이미지로 훈련된 모델들(예: OSCAR+VinVL)을 초월하여 GQA에서 64.7%의 정확도를 달성했으며, 데이터 양은 50배 적었다.
• 프로그램 감독은 향상된 시각 입력 표현을 더 효과적으로 활용할 수 있도록 한다: 객체 제안 수를 36개에서 100개로 늘였을 때 성능 향상이 발생하지만, 기준 모델은 변화가 없었다.
• 희귀 답변(정확도-꼬리)과 주요 답변(정확도-헤드) 모두에서 일반화 능력 향상이 관찰되어 분포 이탈에 대한 내성성이 뛰어나다.
• 이론적 분석을 통해 프로그램 감독가 미약한 가정 하에 표본 복잡도 감소를 가능하게 함을 확인하였으며, 이는 실증적 효과를 뒷받침한다.