[論文レビュー] SOON: Scenario Oriented Object Navigation with Graph-based Exploration

Fengda Zhu, Xiwen Liang+3 more|arXiv (Cornell University)|Mar 31, 2021

Multimodal Machine Learning Applications参考文献 51被引用数 5

ひとこと要約

本論文は、3次元環境の任意の開始位置から、シーンの自然言語記述のみを用いてターゲットオブジェクトへナビゲートする必要がある新しいタスク、シナリオ指向型オブジェクトナビゲーション（SOON）を紹介する。著者らは、環境を動的グラフとしてモデル化することで学習安定性と一般化性能を向上させる、グラフベースのエクスプロレーション（GBE）を提案し、FAOおよびR2Rベンチマークの両方で最先端の性能を達成した。従来手法より5.4%のSPL向上を達成した。

ABSTRACT

The ability to navigate like a human towards a language-guided target from anywhere in a 3D embodied environment is one of the 'holy grail' goals of intelligent robots. Most visual navigation benchmarks, however, focus on navigating toward a target from a fixed starting point, guided by an elaborate set of instructions that depicts step-by-step. This approach deviates from real-world problems in which human-only describes what the object and its surrounding look like and asks the robot to start navigation from anywhere. Accordingly, in this paper, we introduce a Scenario Oriented Object Navigation (SOON) task. In this task, an agent is required to navigate from an arbitrary position in a 3D embodied environment to localize a target following a scene description. To give a promising direction to solve this task, we propose a novel graph-based exploration (GBE) method, which models the navigation state as a graph and introduces a novel graph-based exploration approach to learn knowledge from the graph and stabilize training by learning sub-optimal trajectories. We also propose a new large-scale benchmark named From Anywhere to Object (FAO) dataset. To avoid target ambiguity, the descriptions in FAO provide rich semantic scene information includes: object attribute, object relationship, region description, and nearby region description. Our experiments reveal that the proposed GBE outperforms various state-of-the-arts on both FAO and R2R datasets. And the ablation studies on FAO validates the quality of the dataset.

研究の動機と目的

• 現実世界のナビゲーションにおけるギャップを埋めるために、エージェントがシーンの記述のみを用いて任意の位置からターゲットオブジェクトを特定するタスクを提案すること。
• オブジェクトの属性、関係性、空間的領域を記述する3,000件の多様で曖昧でない自然言語指示を含むベンチマーク、FAOを設計すること。
• 複雑でオープンエンドなナビゲーションにおいて、学習安定性とポリシーの一般化を向上させるグラフベースのエクスプロレーション手法（GBE）を開発すること。
• アブレーションスタディおよび性能比較を通じて、FAOデータセットの独自性と質を検証すること。
• グラフベースの推論を介して示唆学習と強化学習を統合することで、SOONおよびR2Rタスクで優れた性能が得られることを示すこと。

提案手法

• GBEは、エージェントのナビゲーション状態を動的グラフとしてモデル化し、ノードは視覚的および言語的観測を表し、エッジは空間的および意味的関係を符号化する。
• 複数の離散的アクションを1ステップの意思決定に統合するグラフアクションスペースを用いることで、予測の複雑さを低減し、学習安定性を向上させる。
• 部分最適な軌道を活用することで、示唆学習と強化学習を統合し、ポリシー学習の安定性を高め、過学習を回避する。
• エージェントが探索を進めるに従い、グラフを段階的に更新することで、長距離記憶と多様な環境における文脈的推論を可能にする。
• モデルは、進化するグラフ構造に基づいてナビゲーションアクションを予測するため、グラフニューラルネットワーク（GNN）を用いて特徴を集約する。
• 特徴表現学習を強化するための新しい補助タスクを導入し、未観測環境への一般化性能を向上させる。

Figure 1 : An example of the navigation process in SOON. An agent receives a complex natural language instruction consisting of multiple kinds of descriptions (left-hand side). During the agent navigates among different rooms, it searches a larger-scale area first, then gradually narrows down the se

実験結果

リサーチクエスチョン

• RQ1 自然言語によるシーン記述のみで、3次元環境の任意の位置から出発するナビゲーションエージェントが、ロバストで一般化可能な性能を達成できるか？
• RQ2 グラフベースの環境モデリングは、オープンエンドナビゲーションタスクにおける学習安定性とポリシー一般化にどのように寄与するか？
• RQ3 視覚と言語のモodal がSOONタスクの解決にどの程度貢献するか、また、指示の粒度が性能に与える影響はどの程度か？
• RQ4 グラフベースのエクスプロレーションを介して示唆学習と強化学習を統合することで、単独で用いる場合よりも優れた性能が得られるか？
• RQ5 提案されたFAOベンチマークは、現存するベンチマークと比較して、現実性、曖昧さ、一般化能力の面で優れているか？

主な発見

• 提案されたGBE手法は、R2Rベンチマークにおいて、最先端モデルより5.4%のSPL向上を達成し、優れた一般化性能とロバスト性を示した。
• FAOベンチマークでは、GBEモデルが非グラフベースのバージョンと比較して、オラクル成功確率が0.7%向上、成功確率が0.5%向上、SPLが1.5%向上、SFPLが0.6%向上した。
• 人間のFAOにおけるパフォーマンスは、すべてのモデルを大きく上回っており、人間と機械の間には大きなギャップがあり、新タスクの難易度が示された。
• アブレーションスタディの結果、視覚と言語の両モダリティが不可欠であることが確認され、SOON設定では視覚情報が言語情報よりもより有用であることが示された。
• オブジェクト名、属性、関係性、領域記述を含む完全な指示粒度で学習したモデルが、入力が制限されたモデルを上回り、再定式化された指示で最も高いパフォーマンスを示した。
• オブジェクト名のみを入力とするObjectGoalベースラインで学習したモデルは、より豊かなシーン記述を用いたモデルよりパフォーマンスが低く、オブジェクトの曖昧さと文脈の欠如がナビゲーションを困難にしていることを確認した。

Figure 2 : An example of annotating instructions in 6 steps.