[論文レビュー] Recurrent Relational Networks

Rasmus Palm, Ulrich Paquet+1 more|arXiv (Cornell University)|Nov 21, 2017

Advanced Image and Video Retrieval Techniques参考文献 24被引用数 15

ひとこと要約

本稿では、ノード間の反復的メッセージ伝達により、グラフ構造データ上で複数ステップの関係的推論を実行する微分可能でエンド・ツー・エンドで学習可能なモジュール、再帰的関係ネットワーク（RRN）を紹介する。RRNはbAbI（20/20のタスク）で最先端の性能を達成し、最も難しい数独パズルの96.6％を解けることを示しており、複雑で反復的な関係的推論の能力を示している。

ABSTRACT

This paper is concerned with learning to solve tasks that require a chain of interdependent steps of relational inference, like answering complex questions about the relationships between objects, or solving puzzles where the smaller elements of a solution mutually constrain each other. We introduce the recurrent relational network, a general purpose module that operates on a graph representation of objects. As a generalization of Santoro et al. [2017]'s relational network, it can augment any neural network model with the capacity to do many-step relational reasoning. We achieve state of the art results on the bAbI textual question-answering dataset with the recurrent relational network, consistently solving 20/20 tasks. As bAbI is not particularly challenging from a relational reasoning point of view, we introduce Pretty-CLEVR, a new diagnostic dataset for relational reasoning. In the Pretty-CLEVR set-up, we can vary the question to control for the number of relational reasoning steps that are required to obtain the answer. Using Pretty-CLEVR, we probe the limitations of multi-layer perceptrons, relational and recurrent relational networks. Finally, we show how recurrent relational networks can learn to solve Sudoku puzzles from supervised training data, a challenging task requiring upwards of 64 steps of relational reasoning. We achieve state-of-the-art results amongst comparable methods by solving 96.6% of the hardest Sudoku puzzles.

研究の動機と目的

• 構造化データ上で多数ステップの関係的推論を実行できる汎用的で微分可能なモジュールの開発。
• 単一ステップの関係ネットワークやフィードフォワードモデルが、複雑で相互に依存する推論タスクを処理する際の限界を克服すること。
• 反復的推論を要する、質問応答や数独の解法といった挑戦的なタスクにおけるモデルの評価。
• 関係的タスクにおける推論ステップ数を体系的に調査できる診断用データセット、Pretty-CLEVRの導入。
• 記号論理や手作業で設計されたアルゴリズムに依存せずに、再帰的メッセージ伝達が複雑で制約付きの推論を学習可能であることを示すこと。

提案手法

• RRNは、学習可能なベクトル表現を持つオブジェクトをノード、関係をエッジとして持つグラフ上で動作する。
• 各時刻において、ノードは隣接ノードからのメッセージを微分可能関数を用いて集約し、再帰的更新メカニズムにより隠れ状態を更新する。
• メッセージ関数とノード更新関数は、各ステップで収束性と安定性を保証するために、損失関数を最適化することで共同で学習される。
• ノード特徴量は、メッセージ関数および更新関数の両方のステップで組み込まれており、表現の安定性と表現力が向上する。
• バックプロパゲーションを用いたエンド・ツー・エンドの学習により、事前定義された記号論理的制約なしに、複雑な関係的ダイナミクスを学習可能である。
• さまざまなタスクを、反復的メッセージ伝達を伴うグラフベースの推論問題として扱うことで、アーキテクチャの汎用性を実現している。

実験結果

リサーチクエスチョン

• RQ1 微分可能で再帰的なメッセージ伝達モジュールは、複数ステップの関係的推論を要するタスクにおいて、単一ステップの関係ネットワークやフィードフォワードモデルを上回ることができるか？
• RQ2 タスクが要請する推論ステップ数がモデルの性能に与える影響は何か？ また、診断用データセットを用いて、これを体系的に測定可能か？
• RQ3 記号論理エンジンや手作業で設計されたアルゴリズムを一切使用せずに、RRNは教師あり学習のみで数独のような高制約問題を解くことができるか？
• RQ4 CommNet や ベリーフプロパゲーション といった他のニューラルメッセージ伝達モデルと比較して、RRNは安定性および推論の深さにおいて優れているか？
• RQ5 RRNは、人間の論理的帰納に類似した反復的で制約付きの推論をどの程度学習できるか？

主な発見

• RRNはbAbIのテキストベースの質問応答データセットで最先端の性能を達成し、20のタスクすべてを正しく解ける。
• 最も難しい数独パズル（初期状態が17マスのもの）の96.6％を解ける。これは類似手法を上回る性能である。
• 新たに導入されたPretty-CLEVRデータセットを用いて、多層パーセプトロンは3ステップを超えると失敗するが、RRNは推論深さが増すに従い効果的にスケーリングすることが示された。
• 各ステップでの損失最適化により、RRNは安定した学習と収束を示しており、信頼性の高い複数ステップ推論のための重要な革新である。
• メッセージ関数および更新関数の両方のステップにノード特徴量を組み込むことで、学習の安定性と性能が顕著に向上した。
• 記号論理や手作業で設計されたアルゴリズムに依存せずに、RRNは複雑で反復的な関係的推論を効果的に学習できた。