[論文レビュー] Experience-Embedded Visual Foresight

Yen-Chen Lin, Maria Bauzá+1 more|arXiv (Cornell University)|Nov 12, 2019

Generative Adversarial Networks and Image Synthesis参考文献 37被引用数 14

ひとこと要約

本論文では、新しい物体のインタラクション動画をわずかに観測するだけで、視覚予測モデルを迅速に新しい物体に適応できるメタラーニングフレームワーク、経験埋め込み視覚的予測（EVF）を提案する。経験を動的文脈埋め込みにエンコードすることで、EVFは再帰的動画予測ネットワークを条件付け、物理的に妥当な将来のフレームを生成する。これにより、未知の物体を含む現実世界のロボットタスクにおける視覚的モデル予測制御の性能が顕著に向上する。

ABSTRACT

Visual foresight gives an agent a window into the future, which it can use to anticipate events before they happen and plan strategic behavior. Although impressive results have been achieved on video prediction in constrained settings, these models fail to generalize when confronted with unfamiliar real-world objects. In this paper, we tackle the generalization problem via fast adaptation, where we train a prediction model to quickly adapt to the observed visual dynamics of a novel object. Our method, Experience-embedded Visual Foresight (EVF), jointly learns a fast adaptation module, which encodes observed trajectories of the new object into a vector embedding, and a visual prediction model, which conditions on this embedding to generate physically plausible predictions. For evaluation, we compare our method against baselines on video prediction and benchmark its utility on two real-world control tasks. We show that our method is able to quickly adapt to new visual dynamics and achieves lower error than the baselines when manipulating novel objects.

研究の動機と目的

• 未知の動的特性を持つ現実世界の新規物体に直面した際の視覚的予測モデルの一般化失敗を解消すること。
• 人間の経験からの迅速学習を模倣するように、わずかな観測されたインタラクション動画のみを用いて、新しい物体への迅速適応を可能にすること。
• 以前に観測されていない物体を含む現実世界のロボット操作タスクにおける視覚的モデル予測制御（視覚的 MPC）の性能を向上させること。
• 質量や形状などの物体特性が分離可能で、かつ新規インスタンスに一般化可能な動的埋め込み空間を学習すること。

提案手法

• EVFは、新規物体の観測された動画軌跡を低次元の文脈埋め込みに圧縮する学習済み経験エンコーダーを用いる。
• この文脈埋め込みは、現在の観測、行動、および埋め込み文脈に基づいて将来のフレームを生成する再帰的視覚予測ネットワークの補助情報として使用される。
• モデルはメタラーニングを介してエンドツーエンドで訓練され、経験エンコーダーが少数の例を用いて予測モデルを新規物体に迅速に適応させるファストラーナーとして機能する。
• フレームワークは階層ベイジアンモデルとして形式化され、物体の動的特性は観測経験から推論される潜在変数として扱われる。
• 変分推論の目的関数を用いて、経験エンコーダーと動画予測ネットワークを同時に最適化することで、統合的な表現学習と予測学習が可能になる。
• 学習済み埋め込み空間の距離構造を活用することで、類似した動的特性（質量、形状など）を持つ物体が近接して埋め込まれるため、ゼロショット一般化が可能になる。

実験結果

リサーチクエスチョン

• RQ1 わずかな観測されたインタラクション動画のみを用いて、視覚予測モデルが新規物体に迅速に適応できるか。
• RQ2 過去の経験の学習済み文脈埋め込みを予測に条件付けすることで、現実世界の未観測物体への一般化性能が向上するか。
• RQ3 学習済み埋め込み空間が物体の意味的物理的特性（例：質量、形状）を捉えており、ゼロショット一般化が可能か。
• RQ4 勾配ベースのメタラーニングベースラインと比較して、EVFは動画予測および視覚的 MPC の性能で優れているか。
• RQ5 EVFは、物体再配置や軌道追従などの現実世界のロボットタスクにおける視覚的モデル予測制御の精度を向上させられるか。

主な発見

• EVFは、動画予測および視覚的 MPC タスクの両方において、未観測物体に対してベースラインと比較して顕著に低い予測誤差を達成し、再配置タスクで平均誤差36.2 mm、軌道追従タスクで27.5 mmを記録した。
• KTHアクションデータセットでは、EVFはLPIPS、PSNR、SSIMのすべての指標でSAVP、SAVP-F、SAVP-MAMLを上回り、より現実的で安定した将来のフレームを生成した。
• t-SNE可視化により、文脈埋め込みが物理的特性（質量、形状）に応じてクラスタリングされていることが確認された。訓練時に未観測であった物体であっても、同様の質量・形状を持つ物体は近接して埋め込まれていた。
• Omnipushデータセットでは、軌道追従の中央誤差をSAVPの59.5 mmからEVFの48.6 mmに低減し、物理的妥当性の向上を示した。
• 本手法はロボティクスを越えた多様なドメインに対しても効果的に一般化でき、人間のアクション動画においても強力な定性的な結果を示した。
• 経験エンコーダーは最小限のインタラクションデータから動的特性を効果的に捉えており、行動ラベルの必要なしに迅速かつ正確な適応が可能になった。