[論文レビュー] Emergent Systematic Generalization In a Situated Agent

Felix Hill, Andrew K. Lampinen+5 more|arXiv (Cornell University)|Oct 1, 2019

Multimodal Machine Learning Applications被引用数 22

ひとこと要約

本論文は、3次元シミュレーテッド環境を用いた状況的エージェントにおいて、体系的汎化のメカニズムを調査し、エージェントが多様でマルチモーダルな観測を用いて訓練された場合、分布外の指示に対する性能が顕著に向上することを示している。主な要因として、高水準のオブジェクト／語彙の露出、視点に基づく視覚的不変性、知覚入力の多様性が挙げられ、ニューラルネットワークが人間の学習に類似した豊富で多様な感覚経験をもとに訓練されると、より良い汎化が達成されると示唆している。

ABSTRACT

The question of whether deep neural networks are good at generalising beyond their immediate training experience is of critical importance for learning-based approaches to AI. Here, we consider tests of out-of-sample generalisation that require an agent to respond to never-seen-before instructions by manipulating and positioning objects in a 3D Unity simulated room. We first describe a comparatively generic agent architecture that exhibits strong performance on these tests. We then identify three aspects of the training regime and environment that make a significant difference to its performance: (a) the number of object/word experiences in the training set; (b) the visual invariances afforded by the agent's perspective, or frame of reference; and (c) the variety of visual input inherent in the perceptual aspect of the agent's perception. Our findings indicate that the degree of generalisation that networks exhibit can depend critically on particulars of the environment in which a given task is instantiated. They further suggest that the propensity for neural networks to generalise in systematic ways may increase if, like human children, those networks have access to many frames of richly varying, multi-modal observations as they learn.

研究の動機と目的

• 深層ニューラルネットワークが、状況的で3次元の環境において、これまでに見たことのない指示に対して体系的に汎化できるかどうかを調査すること。
• ビジョン・ランゲージエージェントにおける汎化性能に影響を与える具体的な訓練および環境要因を同定すること。
• マルチモーダルで知覚的に豊かな観測が、ニューラルネットワークにおける体系的汎化の出現に与える影響を調査すること。

提案手法

• 自然言語指示に基づいてオブジェクト操作タスクを実行するための汎用エージェントアーキテクチャを、3次元のUnityシミュレーションで訓練した。
• 訓練の効果を評価するために、オブジェクト／語彙の経験ペアの数を変化させた訓練レジームを採用した。
• 視覚的不変性の影響を評価するために、エージェントの視覚的視点と参照フレームを操作した。
• 視覚入力の多様性を高めるために、オブジェクトの位置、照明、視点を変化させ、その学習への影響をテストした。

実験結果

リサーチクエスチョン

• RQ1 訓練中にオブジェクト／語彙の経験をどれだけ多くするかが、未体験の指示への汎化にどのように影響するか？
• RQ2 エージェントの参照フレームや視覚的視点が、体系的汎化にどの程度影響を及えるか？
• RQ3 視覚入力の知覚的変動性が、エージェントが訓練分布を超えて汎化する能力にどのように影響するか？

主な発見

• 訓練データにおけるオブジェクト／語彙の経験数を増やすことで、未体験の指示への汎化能力が顕著に向上した。
• エージェントの視点によって導入された視覚的不変性が、体系的汎化を可能にする上で重要な役割を果たした。
• 視覚入力における知覚的多様性が高まることで、より強い汎化性能が得られた。これは、より豊かな感覚入力が学習を促進することを示唆している。
• 結果から、ニューラルネットワークにおける体系的汎化は、環境的および訓練固有の設計選択に極めて敏感であることがわかった。