[論文レビュー] Modularity Improves Out-of-Domain Instruction Following.

Rodolfo Corona, Daniel Fried+3 more|arXiv (Cornell University)|Oct 24, 2020

Topic Modeling参考文献 28被引用数 4

ひとこと要約

本論文は、自然言語指示に従うためのモジュラーアーキテクチャを提案する。このアーキテクチャでは、タスクをサブゴールタイプに分解し、それぞれのサブゴールタイプを専用モジュールが処理する。指示のセグメンテーションとサブゴールタイプの予測を学習することで、標準的なシーケンス・ツー・シーケンスモデルと比較して、ALFREDベンチマークにおける分布外の環境や新しいタスクへのゼロショット一般化性能が向上する。

ABSTRACT

We propose a modular architecture for following natural language instructions that describe sequences of diverse subgoals, such as navigating to landmarks or picking up objects. Standard, non-modular, architectures used in instruction following do not exploit subgoal compositionality and often struggle on out-of-distribution tasks and environments. In our approach, subgoal modules each carry out natural language instructions for a specific subgoal type. A sequence of modules to execute is chosen by learning to segment the instructions and predicting a subgoal type for each segment. When compared to standard sequence-to-sequence approaches on ALFRED, a challenging instruction following benchmark, we find that modularization improves generalization to environments unseen in training and to novel tasks.

研究の動機と目的

• 訓練時に見未曾る環境や新しいタスクにおいて、非モジュラーな指示追従モデルの一般化性能の低さを改善すること。
• 自然言語指示の構成的構造を活用するため、指示を再利用可能なサブゴールタイプに分解すること。
• 指示のセグメンテーションとサブゴールタイプの予測を学習することで、指示追従におけるゼロショット一般化を向上させること。
• モジュラーアーキテクチャが、ALFREDベンチマークにおける分布外タスクにおいて、標準的なシーケンス・ツー・シーケンスモデルを上回ることを示すこと。

提案手法

• 各サブゴールタイプ（例：ランドマークに移動する、物体を拾う）を専用のニューラルモジュールが処理するモジュラーなアーキテクチャを採用する。
• 指示のセグメンテーションは、入力指示をサブゴールセグメントに分割するセグメンテーションヘッドによって実行される。
• サブゴールタイプ予測器は、各セグメント化された指示セグメントに特定のサブゴールタイプを割り当てる。
• 各サブゴールモジュールは、自らのポリシーを使用して対応するタスクを実行することで、構成的実行が可能になる。
• エンド・ツー・エンド学習を用いて、ALFREDベンチマークにおける指示追従性能を最適化するようにシステムを訓練する。
• モジュラー設計により、訓練済みでない環境や新しいタスクの組み合わせへのより優れたゼロショット転送が可能になる。

実験結果

リサーチクエスチョン

• RQ1 モジュラーアーキテクチャは、指示追従タスクにおける分布外の環境への一般化を改善できるか？
• RQ2 自然言語指示におけるサブゴールの構成的構造は、新しいタスクへのゼロショット転送を向上させるか？
• RQ3 モジュラーデザインの指示追従は、標準的なシーケンス・ツー・シーケンスモデルと比較して、ドメイン外性能で優れているか？
• RQ4 指示のセグメンテーションとサブゴールタイプ予測を学習することは、エンド・ツー・エンドモデリングよりも優れた一般化をもたらすか？
• RQ5 どの程度、モジュラリティが未訓練の環境やタスクの組み合わせへの転送を強化するか？

主な発見

• モジュラーアーキテクチャは、標準的なシーケンス・ツー・シーケンスモデルと比較して、訓練時に見未曾る環境への優れた一般化を達成する。
• 訓練時に観測されていなかったサブゴールの組み合わせを含む新しいタスクに対しても、モデルは効果的に一般化する。
• ALFREDベンチマークにおける分布外環境でのゼロショット評価で、性能の向上が観察される。
• 本手法はサブゴールの構成的構造を活用しており、非モジュラーな代替手法よりも優れた転送性能を実現する。
• セグメンテーションとサブゴールタイプ予測は、多様な指示タイプにわたる一般化を可能にする重要な要素である。
• モジュラー設計により、未訓練の複雑な環境におけるより強固で解釈可能な指示追従が実現される。