[論文レビュー] Predictive Coding-based Deep Dynamic Neural Network for Visuomotor Learning

Jungsik Hwang, Jinhyung Kim+3 more|arXiv (Cornell University)|Jun 8, 2017

Action Observation and Synchronization参考文献 22被引用数 3

ひとこと要約

本論文では、予測符号化に基づく深層動的ニューラルネットワークを提案し、予測誤差を最小化することで意図を推定し、動的感覚パターンをシミュレートすることで、視覚的・運動的学習を可能にする。モデルは、入力される視覚的・運動的入力を内面的にシミュレートし、その背後にある意図を推定する。クロスモodalな表現の想起を示し、ロボットの模倣タスクにおけるミラーニューロン系の予測符号化的説明を支持する。

ABSTRACT

This study presents a dynamic neural network model based on the predictive coding framework for perceiving and predicting the dynamic visuo-proprioceptive patterns. In our previous study [1], we have shown that the deep dynamic neural network model was able to coordinate visual perception and action generation in a seamless manner. In the current study, we extended the previous model under the predictive coding framework to endow the model with a capability of perceiving and predicting dynamic visuo-proprioceptive patterns as well as a capability of inferring intention behind the perceived visuomotor information through minimizing prediction error. A set of synthetic experiments were conducted in which a robot learned to imitate the gestures of another robot in a simulation environment. The experimental results showed that with given intention states, the model was able to mentally simulate the possible incoming dynamic visuo-proprioceptive patterns in a top-down process without the inputs from the external environment. Moreover, the results highlighted the role of minimizing prediction error in inferring underlying intention of the perceived visuo-proprioceptive patterns, supporting the predictive coding account of the mirror neuron systems. The results also revealed that minimizing prediction error in one modality induced the recall of the corresponding representation of another modality acquired during the consolidative learning of raw-level visuo-proprioceptive patterns.

研究の動機と目的

• 予測符号化を用いて、知覚と行動を統合する動的ニューラルネットワークモデルを構築し、視覚的・運動的学習を実現すること。
• 予測誤差の最小化によって、観察された視覚的・運動的行動の背後にある隠れた意図を推定できるようにすること。
• 予測誤差をある感覚モodalで最小化すると、統合的学習の過程で他のモダリティにおける表現の想起が誘発されるかを調査すること。
• 外部入力が存在しない状況でも、トップダウン的に動的視覚的・体性感覚パターンをシミュレートできる能力をモデルが有するかを検証すること。
• 予測符号化フレームワークが、社会的認知におけるミラーニューロン系の機能を説明する根拠として有効であることを支持すること。

提案手法

• モデルは、視覚的および体性感覚的感覚入力を処理する深層動的ニューラルネットワークアーキテクチャに基づく。
• 予測符号化フレームワークを採用し、複数層にわたる予測誤差を最小化することで、内部表現を精錬する。
• トップダウンのフィードバック接続を用いて、推定された意図に基づき、期待される感覚パターンをシミュレートする。
• トレーニング中、低レベルの視覚的・体性感覚的パターンが、モダリティをまたいで共有される内部表現に統合される。
• 予測誤差の最小化が、感覚予測と意図推定の両方を駆動し、未観測の行動の内面的シミュレーションを可能にする。
• ロボットが他のロボットのジェスチャーを模倣するシミュレーション環境でトレーニングされ、意図状態を教師信号として用いる。

実験結果

リサーチクエスチョン

• RQ1 深層動的ニューラルネットワークは、予測誤差の最小化によって、観察された視覚的・運動的行動の背後にある意図を推定できるか？
• RQ2 外部感覚入力が存在しない状況で、モデルはどれほど動的視覚的・体性感覚パターンをシミュレートできるか？
• RQ3 あるモダリティ（例：視覚的）での予測誤差の最小化が、他のモダリティ（例：体性感覚的）における対応する表現の想起を誘発するか？
• RQ4 予測符号化フレームワークは、連続的な視覚的・運動的学習プロセスにおいて、知覚と行動の統合をどのように支援するか？
• RQ5 モデルの内部ダイナミクスは、予測符号化によって記述されるミラーニューロン系の機能的特性を模倣できるか？

主な発見

• 意図状態が与えられた場合、外部感覚入力が存在しない状況でも、モデルはトップダウン的に動的視覚的・体性感覚パターンの内面的シミュレーションを成功裏に生成した。
• 予測誤差の最小化により、観察された視覚的・運動的シーケンスの背後にある隠れた意図を正確に推定でき、ミラーニューロンの予測符号化的説明を支持した。
• あるモダリティでの予測誤差の最小化が、他のモダリティにおける対応する表現の想起を誘発し、クロスモダリティ統合を示した。
• 予測符号化フレームワーク下でエンドツーエンド学習が行われたため、知覚と行動の間で滑らかな協調が実現された。
• 結果として、予測誤差が視覚的・運動的学習における知覚、推論、内面的シミュレーションを統合するメカニズムとしての役割を果たすことが強調された。
• モデルは、エピジェネティクス的および発達的ロボティクスへの応用を検証する上で、ロバストな性能を示した。