[論文レビュー] Multi-modal Discriminative Model for Vision-and-Language Navigation

Haoshuo Huang, Vihan Jain+3 more|arXiv (Cornell University)|May 31, 2019

Multimodal Machine Learning Applications参考文献 22被引用数 9

ひとこと要約

本論文は、視覚言語ナビゲーション（VLN）における自然言語の指示とナビゲーション経路の整合性を評価するマルチモーダルな判別モデルを提案する。安価にマイニングされたネガティブな経路で訓練された判別器は、データ拡張によって高品質な指示-経路ペアを特定し、そのコンponentsを初期化に用いたナビゲーションエージェントが、未観測の環境において成功確率を10%相対的に向上させることを可能にする。

ABSTRACT

Vision-and-Language Navigation (VLN) is a natural language grounding task where agents have to interpret natural language instructions in the context of visual scenes in a dynamic environment to achieve prescribed navigation goals. Successful agents must have the ability to parse natural language of varying linguistic styles, ground them in potentially unfamiliar scenes, plan and react with ambiguous environmental feedback. Generalization ability is limited by the amount of human annotated data. In particular, \emph{paired} vision-language sequence data is expensive to collect. We develop a discriminator that evaluates how well an instruction explains a given path in VLN task using multi-modal alignment. Our study reveals that only a small fraction of the high-quality augmented data from \citet{Fried:2018:Speaker}, as scored by our discriminator, is useful for training VLN agents with similar performance on previously unseen environments. We also show that a VLN agent warm-started with pre-trained components from the discriminator outperforms the benchmark success rates of 35.5 by 10\% relative measure on previously unseen environments.

研究の動機と目的

• 人間によるアノテーションが限られ、高価であるため、視覚言語ナビゲーション（VLN）エージェントの一般化が制限されている問題に対処する。
• 大規模かつ自動的に生成されたデータ拡張から、高品質な指示-経路ペアを特定することで、データ効率を向上させる。
• マルチモーダルな整合性を活用して、指示と経路の整合性を評価する判別モデルを開発する。
• 判別器で事前学習されたコンponentsを用いて初期化することで、VLNエージェントの一般化を向上させる。
• 人間のアノテーションなしで、ノイズの多いデータをスケーラブルかつ高精度にフィルタリングし、下流のエージェント性能を向上させる方法を提供する。

提案手法

• マルチモーダルな整合性を用いて、与えられた指示がペアリングされたナビゲーション経路をどの程度説明できるかを予測する判別器を訓練する。
• 経路のシャッフル、逆転、ランダムサンプリングなどの安価なネガティブサンプリング技術を用いて、ネガティブな指示-経路ペアを生成する。
• 言語と視覚のモダリティ間で対応する概念を一致させる、整合性に基づく類似度メトリクスを用いて判別器を訓練する。
• マルチモーダル表現の忠実度を保つために、視覚エンコーダー（例：ResNet-152）と言語エンコーダー（例：Bi-LSTM）を微調整する。
• 完全に訓練された判別器の事前学習済みコンponentsを用いてナビゲーションエージェントを初期化し、学習済みのマルチモーダル整合性を活用する。
• ナビゲーションエージェントの訓練中にスタディフォースティングを適用し、学習の安定性とポリシー最適化を向上させる。

実験結果

リサーチクエスチョン

• RQ1 判別モデルは、機械的に生成された大規模な拡張データセットから、高品質な指示-経路ペアを効果的に特定できるか？
• RQ2 判別器におけるマルチモーダルな整合性は、視覚言語ナビゲーションエージェントの一般化をどのように向上させるか？
• RQ3 マイニングされたネガティブな経路で訓練された判別器は、以前に観測されていなかった環境におけるナビゲーションエージェントの性能をどの程度向上させられるか？
• RQ4 判別器が学習した整合性は、低品質なデータのフィルタリングやVLNにおけるカリキュラム学習の誘導に利用できるか？
• RQ5 事前学習済み判別器のコンponentsを用いてナビゲーションエージェントを初期化することで、標準的な訓練よりも一般化性能が向上するか？

主な発見

• Friedら（2018）の拡張データのわずか1%未塔が、判別器のスコアに基づいて高品質であると判明した。
• 判別器が順位付けした上位1%のデータのみを用いることで、全拡張データセットを用いた場合とほぼ同等の性能向上が達成された。
• 事前学習済み判別器のコンponentsを初期化に用いたナビゲーションエージェントは、検証用未観測データセットでベンチマークの成功確率を10%相対的に上回った。
• 定性的な分析から、判別器は「ドアから出る」のような指示とドアを含む画像をマッチングするような意味のあるマルチモーダルな整合性を学習していることが示された。
• 経路シャッフル（PS）と知覚的類似性（PS）の両方のネガティブ例で訓練された判別器は、PSネガティブ例のみで訓練されたものよりも、より強固で正確な整合性を学習した。
• 判別器の整合性メカニズムは、効果的な転移学習を可能にし、ナビゲーションエージェントが未観測環境へ一般化するのを助けた。