[논문 리뷰] Better Set Representations For Relational Reasoning

Qian Huang, Horace He외 4명|arXiv (Cornell University)|2020. 03. 09.

Multimodal Machine Learning Applications참고 문헌 34인용 수 4

한 줄 요약

이 논문은 집합 순열 불변성을 반복적 개선을 통해 강제함으로써 신경망 내의 관계 추론을 향상시키는 새로운 모듈인 세트 리퍼너 네트워크(SRN)를 제안한다. 표준 입력-집합 매핑 방식을 뒤집어, 입력 임베딩을 재구성할 수 있는 집합을 찾는 방식으로, 이는 기존 방법에서 발생하는 '책임 문제'—엔티티 분해가 잘못되는 근본적 결함—를 해결한다. 이 방법은 가장 도전적인 Sort-of-CLEVR 질문에서 상대 오차를 50% 이상 감소시키며, 시각, 강화 학습, 자연어 처리 작업 전반에서 정확도와 강인성 향상에 기여한다.

ABSTRACT

Incorporating relational reasoning into neural networks has greatly expanded their capabilities and scope. One defining trait of relational reasoning is that it operates on a set of entities, as opposed to standard vector representations. Existing end-to-end approaches typically extract entities from inputs by directly interpreting the latent feature representations as a set. We show that these approaches do not respect set permutational invariance and thus have fundamental representational limitations. To resolve this limitation, we propose a simple and general network module called a Set Refiner Network (SRN). We first use synthetic image experiments to demonstrate how our approach effectively decomposes objects without explicit supervision. Then, we insert our module into existing relational reasoning models and show that respecting set invariance leads to substantial gains in prediction performance and robustness on several relational reasoning tasks.

연구 동기 및 목표

• 기존의 엔드 투 엔드 관계 추론 모델에서 발생하는 집합 순열 불변성을 무시하는 근본적 한계를 해결하기 위해.
• 명시적 지도 없이도 입력 데이터를 이산적이고 의미 있는 엔티티로 충실하게 불연속적인 분해를 가능하게 하는 일반 목적의 모듈을 개발하기 위해.
• 적절한 엔티티 수준의 집합 표현을 보장함으로써, 후속 관계 추론 모델의 성능과 강인성을 향상시키기 위해.
• 분리된, 적절히 분해된 집합은 관계 추론 작업에서 더 나은 일반화 능력과 입력 노이즈에 대한 저항력을 제공함을 입증하기 위해.

제안 방법

• SRN은 표준 입력-집합 매핑 방식을 뒤집는다: 입력에서 집합으로 직접 회귀하는 대신, 기울기 하강법을 통해 입력 임베딩을 재구성할 수 있는 후보 집합을 최적화한다.
• 이 방법은 집합 인코더를 사용하여 입력 임베딩과 집합 표현 간의 재구성 손실을 계산한다.
• 엔티티 분해에 필요한 불연속적 매핑을 학습할 수 있도록, 집합 원소에 대해 기울기 하강법을 사용해 반복적 개선을 수행한다.
• 초기 집합은 입력에 대한 학습된 임베딩으로 초기화되며, 고정된 크기의 집합 표현을 위해 0 패딩 벡터를 포함한다.
• SRN은 미분 가능하며, Relational Networks나 C-SWM와 같은 기존의 관계 추론 아키텍처에 원활하게 통합될 수 있다.
• 이 방법은 다양한 모odalities에 적용 가능하며, 시각, 강화 학습, 자연어 처리 벤치마크에서의 실험을 통해 그 일반성과 적용 가능성을 입증하였다.

실험 결과

연구 질문

• RQ1 미분 가능한 신경망 모듈이 명시적 지도 없이도 입력 데이터를 이산적이고 순열 불변적인 집합으로 효과적으로 분해할 수 있는가?
• RQ2 반복적 개선을 통해 집합의 불변성을 강제하면 관계 추론 작업에서 성능과 강인성이 향상되는가?
• RQ3 기존의 집합 구축 방법에서 발생하는 책임 문제의 영향으로 인해 모델의 일반화 능력과 입력 노이즈에 대한 민감도는 어떻게 영향을 받는가?
• RQ4 제안된 SRN이 시각, 강화 학습, 자연어 처리와 같은 다양한 도메인에서 성능 향상에 기여할 수 있는가?

주요 결과

• Sort-of-CLEVR 벤치마크에서 SRN을 Relational Network에 통합함으로써, 가장 도전적인 질문 유형에서 상대 오차가 50% 이상 감소하였다.
• SRN은 강인성을 크게 향상시켰다: 기존의 Relational Network는 미세한 입력 노이즈에 의해 잘못된 답변을 내놓았지만, SRN이 탑재된 모델은 높은 정확도를 유지하였다.
• Atari Pong 및 Space Invaders 환경에서, SRN은 랭크 1 히트(H@1)와 평균 역수 순위(MRR)를 향상시켰으며, 특히 더 긴 액션 시퀀스에서 성능 향상이 커졌다 (예: K=3일 때 Space Invaders에서 10단계에서 H@1이 +9.5% 향상).
• 텍스트 기반 CLUTRR 작업에서, SRN은 평균 성능을 기준 모델의 49.7%에서 55.0%로 향상시켰으며, 그래프 기반 변형(GRN)은 56.1%에 도달하였다.
• 반복되거나 동일한 물체가 포함된 데이터셋—예를 들어 Space Invaders—에서 SRN은 특히 높은 성능 향상을 보였는데, 이는 유사한 엔티티를 더 잘 분리함을 시사한다.
• 모든 평가된 작업에서 일관된 성능 향상이 관찰되어, 적절한 집합 표현이 신뢰할 수 있는 관계 추론을 위해 필수적임을 확인하였다.