[論文レビュー] Modular Framework for Visuomotor Language Grounding

Kolby Nottingham, Litian Liang+4 more|arXiv (Cornell University)|Sep 5, 2021

Multimodal Machine Learning Applications参考文献 12被引用数 5

ひとこと要約

本論文は、視覚的運動言語マッピングのためのモジュラーな言語・行動・視覚（LAV）フレームワークを提案する。このフレームワークは、指示従いのデータセットとは独立して視覚と行動モジュールを学習させることで、データ効率の向上を実現する。ALFREDベンチマークにおいて、エンドツーエンドのベースラインを上回り、特に未学習の環境において優れた性能を示す。また、モジュールを分離することで一般化性能が向上することを示しているが、現在のナビゲーション計画の限界も指摘している。

ABSTRACT

Natural language instruction following tasks serve as a valuable test-bed for grounded language and robotics research. However, data collection for these tasks is expensive and end-to-end approaches suffer from data inefficiency. We propose the structuring of language, acting, and visual tasks into separate modules that can be trained independently. Using a Language, Action, and Vision (LAV) framework removes the dependence of action and vision modules on instruction following datasets, making them more efficient to train. We also present a preliminary evaluation of LAV on the ALFRED task for visual and interactive instruction following.

研究の動機と目的

• エンドツーエンドの指示従いモデルにおけるデータ非効率性を解消するため、言語、視覚、行動モジュールを分離すること。
• 高価なエキスパートのデモンストレーションに依存するのを減らすため、視覚と行動モジュールを安価で豊富な視覚データとシミュレーションデータで学習すること。
• 認識モジュールと制御モジュールを独立して学習させることで、未学習の環境への一般化性能を向上させること。
• 複雑な指示従いタスクにおいて、モジュラー学習がエンドツーエンド学習を上回ることを示すこと。

提案手法

• 言語モジュール（L）は、微調整されたT5モデルを用いて自然言語指示からサブタスクとターゲットオブジェクトを予測する。
• 視覚モジュール（V）は、RGB観測とターゲットオブジェクトから状態特徴を抽出する。これには、セグメンテーション、深度、障害物検出の3つの教師ありネットワークを用いる。
• 行動モジュール（A）は、状態特徴とターゲットオブジェクトを用いてサブタスクを実行する。ナビゲーションには深さ優先探索を、タスク固有の行動には他の手法を用いる。
• 各モジュールは独立して学習される：視覚はAI2THORシミュレーションデータで、行動はマルチタスク強化学習で、言語は指示データセットで学習する。
• テスト時にはモジュール間の情報伝達を許容する。たとえば、視覚状態を言語予測に活用する。
• 今後の改善策として、現在のナビゲーションを強化学習エージェントに置き換えることを検討している。

実験結果

リサーチクエスチョン

• RQ1 指示データセットとは独立して視覚と行動モジュールを学習させることで、視覚的運動言語マッピングにおけるデータ効率が向上するか？
• RQ2 モジュラー学習は、指示従いタスクにおける未学習環境への性能と一般化性能にどのように影響するか？
• RQ3 視覚や行動データで学習されていない状態で、言語モジュールがサブタスクとオブジェクトをどれほど正確に予測できるか？
• RQ4 エンドツーエンドのベースラインと比較して、モジュールの独立性が全体のタスク成功確率に与える影響は何か？
• RQ5 モジュールをオラクルに置き換えた場合、LAVフレームワークの性能がどの程度低下するか。これにより、現在のボトル neck が明らかになるか？

主な発見

• LAVフレームワークは、ALFREDベンチマークにおいてエンドツーエンドベースラインを顕著に上回り、学習済みテストデータで13.4%の成功率（SR）を達成し、未学習テストデータでは6.3%を記録した。
• 未学習環境では、LAVは6.3%のSRと3.1%のPWSRを達成し、ベースライン（0.4%と0.1%）よりも優れた一般化性能を示した。
• 言語モジュールと視覚モジュールの両方をオラクルに置き換えた場合、LAVの成功率は25.2%にとどまり、現在のナビゲーション方策が主な性能ボトル neck であることが示された。
• 最先端のLWIT手法と比較して、LAVフレームワークは未学習シーンにおける性能低下が小さく、分布シフトに対するより高いロバスト性を示した。
• シミュレーションデータで学習させたことで、視覚モジュールの性能が向上した。これは、指示従いデータセットよりも安価でスケーラブルである。
• 言語モジュールの性能は、視覚状態特徴の品質に依存しており、視覚フィードバックを統合することで予測精度が向上した。