[論文レビュー] Neural Network Memory Architectures for Autonomous Robot Navigation

Steven W. Chen, Nikolay Atanasov+4 more|arXiv (Cornell University)|May 23, 2017

Robotic Path Planning Algorithms参考文献 31被引用数 5

ひとこと要約

本論文は、LSTM や Differentiable Neural Computer などのメモリ構造を深層ニューラルネットワークに統合することで、クルーシャンや未確認の環境における一般化性能の向上を図る自律ロボットナビゲーションのための手法を提案している。一般化能力をテストセットの選択に依存せずに推定するための VC次元に基づく手法を導入し、メモリ構造が分離性および性能を向上させることを示している。特に長時間の順序タスクにおいて、フィードフォワードネットワークに比べて顕著な優位性を示している。

ABSTRACT

This paper highlights the significance of including memory structures in neural networks when the latter are used to learn perception-action loops for autonomous robot navigation. Traditional navigation approaches rely on global maps of the environment to overcome cul-de-sacs and plan feasible motions. Yet, maintaining an accurate global map may be challenging in real-world settings. A possible way to mitigate this limitation is to use learning techniques that forgo hand-engineered map representations and infer appropriate control responses directly from sensed information. An important but unexplored aspect of such approaches is the effect of memory on their performance. This work is a first thorough study of memory structures for deep-neural-network-based robot navigation, and offers novel tools to train such networks from supervision and quantify their ability to generalize to unseen scenarios. We analyze the separation and generalization abilities of feedforward, long short-term memory, and differentiable neural computer networks. We introduce a new method to evaluate the generalization ability by estimating the VC-dimension of networks with a final linear readout layer. We validate that the VC estimates are good predictors of actual test performance. The reported method can be applied to deep learning problems beyond robotics.

研究の動機と目的

• 深層ニューラルネットワークに統合されたメモリ構造が、自律ロボットナビゲーションにおける分離性および一般化性能に与える影響を調査すること。
• グローバルマップが信頼できない、あるいは実用的でないクルーシャンを含む環境でのナビゲーションの課題に対処すること。
• 順序予測タスクにおける、感知・行動ポリシーの教師あり学習を可能にするトレーニング手法を開発すること。
• テストセットの選択に依存しない一般化測度を提供することで、実験的評価の限界を克服すること。

提案手法

• 訓練データのみを用いて、深層ニューラルネットワークの最終線形層のバプニクス＝チェルヴォネンキス（VC）次元を推定するための新規手法を提案し、一般化能力を評価する。
• 順序データに対するクローズドループ感知・行動ポリシーの教師あり学習を可能にする並列トレーニングアルゴリズムを採用し、効率的な学習を実現した。
• 障害物の長さを増加させたナビゲーションタスクにおいて、フィードフォワードネットワーク、LSTM、および Differentiable Neural Computer（DNC）アーキテクチャを比較した。
• 補間と外挿の両方のテストセットを用いて一般化性能を評価し、後者は従来の指標が機能しない状況でモデルの性能差を明確にした。
• VC推定値が実際のテスト性能と強く相関していることから、本手法が一般化性能を信頼できる予測子として機能することを検証した。
• A*ルート比をパフォーマンス指標として用い、シミュレーテッド環境における最適経路と比較して、学習済みポリシーの性能を評価した。

実験結果

リサーチクエスチョン

• RQ1 LSTM や DNC などの異なるメモリアーキテクチャは、ナビゲーションタスクにおいて、正しい行動と誤った行動を分離する能力でフィードフォワードネットワークに比べてどのように異なるか？
• RQ2 メモリの導入が、特に長大なクルーシャン環境における未確認環境への一般化性能をどの程度向上させるか？
• RQ3 最終ネットワーク層の VC 次元推定値は、訓練セット依存の一般化性能予測として信頼できるものとなるか？
• RQ4 なぜ従来の実験的テストセットでは、一般化能力が異なるモデルを区別できないのか？ その課題をどのように克服できるか？

主な発見

• VC次元推定手法は一般化性能を正確に予測しており、推定値と実際のテスト結果との間に強い相関が確認された。
• LSTM および DNC ネットワークは、未確認環境においてフィードフォワードネットワークよりも顕著に優れた一般化性能を示した。特に障害物の長さが増加するにつれて顕著であった。
• 補間テストセットでは、すべてのモデル（フィードフォワードネットワークを含む）が同程度の性能を示し、従来のテストセット評価の限界を浮き彫りにした。
• 外挿テストセットでは、LSTM および DNC のようなメモリベースのモデルのみが性能向上を示し、学習分布を超えた一般化能力を有していることを実証した。
• 障害物長が増加するにつれて A*ルート比が減少する傾向を示しており、LSTM および DNC が 60〜80 メートルの地点で一貫して旋回していることから、時間的意思決定が堅牢であることが示唆された。
• フィードフォワードネットワークは、シミュレーション固有の特徴（例：障害物を完全に回避すること）を巧みに利用することで成功しているが、これは一般化能力の欠如と順序的推論の欠如を示している。