[논문 리뷰] Recurrent Relational Networks

Rasmus Palm, Ulrich Paquet외 1명|arXiv (Cornell University)|2017. 11. 21.

Advanced Image and Video Retrieval Techniques참고 문헌 24인용 수 15

한 줄 요약

이 논문은 그래프 구조 데이터에서 다중 단계 관계 추론을 반복적으로 메시지 전달을 통해 수행할 수 있는 미분 가능하고 엔드 투 엔드로 훈련 가능한 모듈인 순환 관계 네트워크(RRN)를 소개한다. bAbI(20/20개 작업)에서 최고 성능을 기록하고, 가장 어려운 수학 퍼즐 96.6%를 해결함으로써 복잡하고 반복적인 관계 추론 능력을 입증한다.

ABSTRACT

This paper is concerned with learning to solve tasks that require a chain of interdependent steps of relational inference, like answering complex questions about the relationships between objects, or solving puzzles where the smaller elements of a solution mutually constrain each other. We introduce the recurrent relational network, a general purpose module that operates on a graph representation of objects. As a generalization of Santoro et al. [2017]'s relational network, it can augment any neural network model with the capacity to do many-step relational reasoning. We achieve state of the art results on the bAbI textual question-answering dataset with the recurrent relational network, consistently solving 20/20 tasks. As bAbI is not particularly challenging from a relational reasoning point of view, we introduce Pretty-CLEVR, a new diagnostic dataset for relational reasoning. In the Pretty-CLEVR set-up, we can vary the question to control for the number of relational reasoning steps that are required to obtain the answer. Using Pretty-CLEVR, we probe the limitations of multi-layer perceptrons, relational and recurrent relational networks. Finally, we show how recurrent relational networks can learn to solve Sudoku puzzles from supervised training data, a challenging task requiring upwards of 64 steps of relational reasoning. We achieve state-of-the-art results amongst comparable methods by solving 96.6% of the hardest Sudoku puzzles.

연구 동기 및 목표

• 구조화된 데이터에서 다단계 관계 추론을 수행할 수 있는 일반적인 목적의, 미분 가능한 모듈을 개발하는 것.
• 복잡하고 상호의존적인 추론 작업을 다룰 때 단일 단계 관계 네트워크와 피드포워드 모델의 한계를 해결하는 것.
• 반복적 추론이 필요한 어려운 작업, 예를 들어 질의 응답 및 수학 퍼즐 해결과 같은 작업에서 모델을 평가하는 것.
• 관계 추론 작업에서 필요한 추론 단계 수를 체계적으로 탐색하기 위해 새로운 진단 데이터셋인 Pretty-CLEVR를 도입하는 것.
• 기호 논리나 수작업으로 작성된 알고리즘 없이도 순환 메시지 전달이 복잡하고 제약 기반 추론을 학습할 수 있음을 보여주는 것.

제안 방법

• RRN은 노드가 학습 가능한 벡터 표현을 가지며 간선이 관계를 나타내는 그래프에서 작동한다.
• 각 시간 단계에서 노드는 가중치가 학습 가능한 메시지 함수를 사용해 이웃 노드로부터 메시지를 집계하고, 순환 업데이트 메커니즘을 통해 은닉 상태를 갱신한다.
• 메시지 함수와 노드 업데이트 함수는 매 단계에서 손실이 최적화되도록 공동으로 훈련되며, 수렴성과 안정성을 보장한다.
• 노드 특징은 메시지 및 업데이트 함수의 모든 단계에 통합되어 표현력과 안정성을 향상시킨다.
• 모델은 백프로파게이션을 통해 엔드 투 엔드로 훈련되어 사전 기호 제약 없이 복잡한 관계 역동성을 학습할 수 있다.
• 다양한 작업에 대해 반복적 메시지 전달을 갖는 그래프 기반 추론 문제로 간주함으로써 아키텍처가 일반화됨을 보여준다.

실험 결과

연구 질문

• RQ1 다양한 단계의 메시지 전달을 수행할 수 있는 미분 가능한 순환 메시지 전달 모듈이 다단계 관계 추론이 필요한 작업에서 단일 단계 관계 네트워크나 피드포워드 모델을 능가할 수 있는가?
• RQ2 작업에서 요구하는 추론 단계 수가 모델 성능에 미치는 영향은 무엇이며, 진단 데이터셋을 통해 이를 체계적으로 측정할 수 있는가?
• RQ3 기호 규칙 엔진 없이도 RRN이 수제자리로 제약이 까다로운 문제인 수학 퍼즐을 학습만으로 해결할 수 있는가?
• RQ4 CommNet나 믿음 전파와 같은 다른 신경망 기반 메시지 전달 모델과 비교했을 때 RRN의 안정성과 추론 깊이 측면에서의 성능은 어떠한가?
• RQ5 RRN은 인간과 유사한 논리적 추론을 모방하는 반복적이고 제약 기반 추론을 어느 정도 학습할 수 있는가?

주요 결과

• RRN은 bAbI 텍스트 기반 질의 응답 데이터셋에서 최고 성능을 기록하여 20개 작업 중 모두 정확히 해결했다.
• 가장 어려운 수학 퍼즐(초기 17개의 숫자가 주어진 경우)의 96.6%를 해결하여 유사한 방법들을 능가했다.
• 최근 도입된 Pretty-CLEVR 데이터셋을 사용하여 다층 퍼셉트론은 3단계를 초월해 성능이 저하되는 반면, RRN은 추론 깊이가 증가함에 따라 효과적으로 확장됨을 입증했다.
• 모든 단계에서 손실를 최적화함으로써 RRN은 안정적인 훈련과 수렴을 보였으며, 이는 신뢰할 수 있는 다단계 추론을 위한 핵심 혁신이다.
• 메시지 및 업데이트 함수의 모든 단계에 노드 특징을 통합함으로써 훈련의 안정성과 성능이 크게 향상됨을 확인했다.
• 기호 논리나 수작업으로 작성된 알고리즘 없이도 RRN은 복잡하고 반복적인 관계 추론을 성공적으로 학습했다.