[論文レビュー] Deep Learning for Embodied Vision Navigation: A Survey

Fengda Zhu, Yi Zhu+3 more|arXiv (Cornell University)|Jul 7, 2021

Multimodal Machine Learning Applications参考文献 211被引用数 13

ひとこと要約

本調査は、エメーブドビジュアルナビゲーションのためのディープラーニング手法について包括的な概要を提供し、ベンチマーク、タスク、最先端モデルを分類している。部分観察、マルチモーダルな指示理解、シミュレーションから現実へのドメインギャップといった課題を分析し、将来の堅牢で汎用性のあるナビゲーションエージェントの構築に向けた主な方向性として、トランスフォーマーに基づくアーキテクチャ、階層的強化学習、トランスファーラーニングを特定している。

ABSTRACT

"Embodied visual navigation" problem requires an agent to navigate in a 3D environment mainly rely on its first-person observation. This problem has attracted rising attention in recent years due to its wide application in autonomous driving, vacuum cleaner, and rescue robot. A navigation agent is supposed to have various intelligent skills, such as visual perceiving, mapping, planning, exploring and reasoning, etc. Building such an agent that observes, thinks, and acts is a key to real intelligence. The remarkable learning ability of deep learning methods empowered the agents to accomplish embodied visual navigation tasks. Despite this, embodied visual navigation is still in its infancy since a lot of advanced skills are required, including perceiving partially observed visual input, exploring unseen areas, memorizing and modeling seen scenarios, understanding cross-modal instructions, and adapting to a new environment, etc. Recently, embodied visual navigation has attracted rising attention of the community, and numerous works has been proposed to learn these skills. This paper attempts to establish an outline of the current works in the field of embodied visual navigation by providing a comprehensive literature survey. We summarize the benchmarks and metrics, review different methods, analysis the challenges, and highlight the state-of-the-art methods. Finally, we discuss unresolved challenges in the field of embodied visual navigation and give promising directions in pursuing future research.

研究の動機と目的

• エメーブドビジュアルナビゲーションのためのディープラーニングに関する研究の急増する文献を体系的に整理・分析すること。
• 部分観察、長時間スケールの計画、シミュレーションから現実へのドメインギャップを含む、エメーブドナビゲーションの核心的な課題を特定すること。
• 異なるナビゲーションタスクや環境における最先端手法を比較・対比すること。
• 実世界への展開に向けた有望な研究分野、たとえばトランスフォーマーに基づくモデル、階層的強化学習、トランスファーラーニングを強調すること。
• 今後のエメーブドAI分野の研究を導くための統一された分類体系とベンチマークの概要を提供すること。

提案手法

• 本論文は、300件を超えるエメーブドビジュアルナビゲーション分野の研究を体系的に調査し、タスクタイプ、環境、手法的アプローチごとに分類している。
• モデルフリー、計画ベース、自己教師あり、モデルベースの学習パラダイムに分類し、マルチモーダル統合とアテンションメカニズムに特に注目している。
• AI2-THOR、Habitat、Gibsonといったベンチマークの評価を行い、タスク設計、観察モダリティ、SPLや成功率といった評価指標を分析している。
• 視覚・言語ナビゲーションにおけるマルチモーダル理解にトランスフォーマーを用いることの有効性を検討し、RNNよりも優れたパフォーマンスを示している。
• シミュレーションから現実への転移戦略としてドメインランダマイゼーションやメタ強化学習を分析し、ポリシーの展開問題を軽減する。
• 神経的SLAMと階層的強化学習の知見を統合し、構造的な記憶と計画を用いた長時間スケールのナビゲーションをモデル化している。

実験結果

リサーチクエスチョン

• RQ1 エメーブドビジュアルナビゲーション研究で使われる主なベンチマーク、タスク、評価指標は何か？
• RQ2 特にトランスフォーマーを含むさまざまなディープラーニングアーキテクチャは、視覚・言語ナビゲーションにおけるマルチモーダル理解をどのように向上させるか？
• RQ3 現在のモデルは、複雑な指示従いや対話的対話タスクにおいて、なぜ人間のベースラインに比べて性能が低いのか？
• RQ4 シミュレーションから現実へのドメインギャップの主な原因は何か、そして実世界への展開を可能にするためにどのように軽減できるか？
• RQ5 堅牢で汎用性のあるエージェントを実現するにあたり、最も有望な今後の研究分野は何か？

主な発見

• 最先端のモデルは依然として人間のパフォーマンスに大きく劣っており、視覚・言語ナビゲーションタスクにおけるSPLで19%の差が生じている。
• トランスフォーマーに基づくモデルは、視覚的および言語的入力をより効果的に統合することで、マルチモーダルナビゲーションにおいて優れたパフォーマンスを達成している。
• 階層的強化学習と神経的SLAMモジュールにより、エージェントは構造的な世界表現を学習し、長時間スケールのナビゲーションを改善できるようになった。
• 現在のエージェントは、言語の多様性や事前知識の欠如のため、自然言語理解に苦労しており、流暢ではあるが誤った行動をとる傾向にある。
• トランスファーラーニングとメタ強化学習は、シミュレーションから現実へのドメインギャップを軽減し、オンライン適応を可能にする上で有望である。
• 技術の進展にもかかわらず、観察、アクション空間、環境のダイナミクスにおけるシミュレーションと現実の差異のため、実世界への展開は依然として困難である。