[論文レビュー] Reshaping Robot Trajectories Using Natural Language Commands: A Study of Multi-Modal Data Alignment Using Transformers

Arthur Bucker, Luis Figueredo+4 more|arXiv (Cornell University)|Mar 25, 2022

Natural Language Processing Techniques被引用数 4

ひとこと要約

本論文では、事前学習済みの言語埋め込み（BERTおよびCLIPから得られるもの）と幾何的軌道データを統合するマルチモーダルアテンショントランスフォーマーを用いて、ロボット軌道の再形状を自然言語インターフェースで行う手法を提案する。本手法は、キネスティックティーチングやプログラミングといった従来のインターフェースと比較して優れた性能とユーザーの好みを示し、実世界の実験においてタスクをより速く、より高い成功率で完了できる。

ABSTRACT

Natural language is the most intuitive medium for us to interact with other people when expressing commands and instructions. However, using language is seldom an easy task when humans need to express their intent towards robots, since most of the current language interfaces require rigid templates with a static set of action targets and commands. In this work, we provide a flexible language-based interface for human-robot collaboration, which allows a user to reshape existing trajectories for an autonomous agent. We take advantage of recent advancements in the field of large language models (BERT and CLIP) to encode the user command, and then combine these features with trajectory information using multi-modal attention transformers. We train the model using imitation learning over a dataset containing robot trajectories modified by language commands, and treat the trajectory generation process as a sequence prediction problem, analogously to how language generation architectures operate. We evaluate the system in multiple simulated trajectory scenarios, and show a significant performance increase of our model over baseline approaches. In addition, our real-world experiments with a robot arm show that users significantly prefer our natural language interface over traditional methods such as kinesthetic teaching or cost-function programming. Our study shows how the field of robotics can take advantage of large pre-trained language models towards creating more intuitive interfaces between robots and machines. Project webpage: https://arthurfenderbucker.github.io/NL_trajectory_reshaper/

研究の動機と目的

• 自然言語コマンドを用いてロボット軌道を柔軟かつ直感的に修正できる人間-ロボットインターフェースの開発を目的とする。
• 現実世界のロボット応用において、硬直的でテンプレートベースの言語インターフェースやキネスティックティーチングの限界を克服することを目的とする。
• 運動学的整合性と安全性を保ちながら、意味的意図を尊重した軌道再形状を可能とすることを目的とする。
• 大規模な事前学習済み言語および視覚モデルを活用することで、訓練データの必要量を削減し、新しいコマンドへの一般化性能を向上させることを目的とする。
• 本システムの実用性と性能を、シミュレーションおよび実世界の設定の両方で評価することを目的とする。

提案手法

• 本システムは、事前学習済みのBERTおよびCLIPモデルを用いて、自然言語コマンドを密度の高い意味的埋め込みに変換する。
• 幾何的軌道データは、初期ロボット動作を表す3次元ウェイポイントの系列として符号化される。
• マルチモーダルアテンショントランスフォーマーは、言語埋め込みと軌道埋め込みを同時に統合し、文脈に応じた表現を生成する。
• モデルは、元の軌道と言語入力を条件として、再形状されたウェイポイントを予測する系列予測タスクとして軌道生成を実行する。
• 模倣学習を用いて、人間が修正した軌道と自然言語コマンドのペアからなるデータセット上でモデルを学習する。
• このアーキテクチャにより、タスク固有の再トレーニングを必要とせず、意味的軌道再形状のエンドツーエンド学習が可能となる。

Figure 1 : Our system allows a user to send natural language commands to reshape robot trajectories relative to objects in the environment.

実験結果

リサーチクエスチョン

• RQ1 自然言語コマンドを用いて、人間の意図に整合する形でロボット軌道を再形状できるか？
• RQ2 言語データと軌道データの間のマルチモーダルアテンションは、単一モーダルまたはアテンションなしのベースラインと比較して、軌道再形状性能をどのように向上させるか？
• RQ3 事前学習済みの言語および視覚モデルを活用することで、大規模なアノテート済み訓練データの必要性はどの程度減少するか？
• RQ4 キネスティックティーチングやプログラミングといった従来の方法と比較して、本インターフェースの使いやすさと成功確率はいかがなっているか？
• RQ5 事前学習済み埋め込みのおかげで、トレーニング時に見なかった新しいコマンドやオブジェクトに対しても、本システムは一般化可能か？

主な発見

• 自然言語（NL）インターフェースは、1タスクあたり平均1.33回の反復で完了したが、キネスティックティーチング（1.78）や軌道描画（1.89）よりも顕著に少ない回数であった。
• NLインターフェースはユーザー研究において100％の成功確率を達成し、キネスティックティーチング（56.24％）や軌道描画（64.7％）を上回った。
• ユーザーはNLインターフェースを最も自然（98／100）かつ使いやすい（92／100）と評価したが、直接制御方法ほど予測可能性は高くないと感じた。
• NLインターフェースは最も速く、平均完了時間は81秒であった。キネスティックティーチングは139秒、描画は120秒であった。
• プログラミングインターフェースは失敗率が最も高く（8.34％）、満足度が最も低かった（62／100）。これは、学習曲線が急で、難易度が高かったためと推察される。
• 本モデルは、シミュレーションおよび実世界の両方の実験でベースライン手法を上回り、低い損失値と高品質な軌道出力を示した。

Figure 2 : Typical use case for trajectory reshaping. The user’s natural language command $L_{\text{in}}$ is processed by function $f$ to reshape the original robot trajectory relative to the target object $O_{i}$ .