[論文レビュー] EnvEdit: Environment Editing for Vision-and-Language Navigation

Jialu Li, Hao Tan+1 more|arXiv (Cornell University)|Mar 29, 2022

Multimodal Machine Learning Applications被引用数 5

ひとこと要約

本論文では、視覚言語ナビゲーション（VLN）において、スタイル、オブジェクトの外観、オブジェクトクラスを編集することで多様な合成環境を生成するデータ拡張手法であるEnvEditを提案する。スタイル転送と画像合成を用いて、意味的に整合的でありながら視覚的に異なる環境を生成し、エージェントが未観測の設定に対しても一般化しやすくなるようにする。R2RおよびRxRベンチマークにおいて、成功確率が1.6%絶対的に向上し、最先端の性能を達成する。

ABSTRACT

In Vision-and-Language Navigation (VLN), an agent needs to navigate through the environment based on natural language instructions. Due to limited available data for agent training and finite diversity in navigation environments, it is challenging for the agent to generalize to new, unseen environments. To address this problem, we propose EnvEdit, a data augmentation method that creates new environments by editing existing environments, which are used to train a more generalizable agent. Our augmented environments can differ from the seen environments in three diverse aspects: style, object appearance, and object classes. Training on these edit-augmented environments prevents the agent from overfitting to existing environments and helps generalize better to new, unseen environments. Empirically, on both the Room-to-Room and the multi-lingual Room-Across-Room datasets, we show that our proposed EnvEdit method gets significant improvements in all metrics on both pre-trained and non-pre-trained VLN agents, and achieves the new state-of-the-art on the test leaderboard. We further ensemble the VLN agents augmented on different edited environments and show that these edit methods are complementary. Code and data are available at https://github.com/jialuli-luka/EnvEdit

研究の動機と目的

• 訓練環境が限定的で多様性に欠けることが原因で、視覚言語ナビゲーション（VLN）エージェントの一般化性能が低いという課題に対処すること。
• 既存のデータ拡張手法が真に新しい環境的変化を導入できないという限界を克服すること。
• 意味的に整合的でありながら視覚的に多様な合成環境を生成する、スケーラブルで解釈可能な手法を開発すること。
• 訓練環境の編集版を制御的に露出させることで、エージェントの未確認環境へのロバスト性を向上させること。
• 環境レベルのデータ拡張による編集が、複数のVLNベンチマークおよびエージェントアーキテクチャにおいて一貫した性能向上をもたらすことを実証すること。

提案手法

• 芸術的絵画から学習したスタイル埋め込みを用いてスタイル転送を適用し、元のレイアウトと意味を保持しながら視覚的スタイルを変更することで、合成環境を生成する。
• セマンティックセグメンテーションマップに基づいて画像合成技術を適用し、シーンの意味を変更せずにオブジェクトの外観を変更することで、視覚的多様性を導入する。
• セマンティックセグメンテーションで1〜4つのオブジェクトクラスをランダムにマスクすることで、オブジェクト構成が変更された環境を制御的に生成する。
• すべての合成環境に対して、元のヒューマンアノテート済みの言語指示を再利用することで、指示の品質と意味的一致性を保証する。
• 実環境と編集済み環境の組み合わせを用いてVLNエージェントを訓練し、強力な視覚的・意味的表現を学習可能にする。
• 未アノテートパス用に、スタイルに配慮したスピーカーモデルを微調整して、多様な指示を生成することで、さらに一般化性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 編集による環境レベルのデータ拡張は、未確認環境へのVLNエージェントの一般化を改善できるか？
• RQ2 スタイル、外観、オブジェクトクラスの異なる種類の環境編集が、エージェントのパフォーマンスと一般化にどのように影響するか？
• RQ3 複数の編集環境を併用した場合、それらがどの程度相乗効果をもたらすか？
• RQ4 本手法は、特徴のドロップや環境の混合といった既存のデータ拡張戦略を上回るか？
• RQ5 編集時にマスクするオブジェクトクラスの数は、指示の一貫性と環境の多様性のトレードオフにどの程度影響を与えるか？

主な発見

• R2Rベンチマークにおいて、EnvEditは非事前学習ベースラインに対して1.6%の絶対的な成功確率の向上を達成し、新たな最先端性能を樹立した。
• 多言語対応のRxRデータセットでは、事前学習済みおよび非事前学習済みエージェントの全指標で、EnvEditが顕著な性能向上を示した。
• スタイル転送で編集された環境（E_st）を用いた訓練は、環境5における成功確率を15.0%、SPLを13.8%向上させた。
• オブジェクト外観の編集（E_is1）は、環境1において最大のパフォーマンス向上をもたらし、成功確率が15.0%向上した。これは視覚的外観の変化と強く整合していることを示している。
• 編集時に1つのオブジェクトクラスをマスクした場合が、多様性と指示の一貫性のバランスが最良であり、2〜4つのクラスをマスクした場合を上回った。
• 複数の編集済み環境（例：E_st、E_is1、E_is1^m）を用いて訓練したエージェントをアンサンブル化することで、さらなる一般化性能の向上が得られ、異なる編集戦略の相乗効果が示された。