[论文解读] Predictive Coding-based Deep Dynamic Neural Network for Visuomotor Learning

Jungsik Hwang, Jinhyung Kim+3 more|arXiv (Cornell University)|Jun 8, 2017

Action Observation and Synchronization参考文献 22被引用 3

一句话总结

本文提出了一种基于预测编码的深度动态神经网络，通过最小化预测误差来推断意图并模拟动态感官模式，从而实现视觉运动学习。该模型能够对输入的视觉运动信息进行心理模拟，并推断其潜在意图，展示了跨模态表征回忆能力，支持了预测编码理论对镜像神经元系统在机器人模仿任务中功能的解释。

ABSTRACT

This study presents a dynamic neural network model based on the predictive coding framework for perceiving and predicting the dynamic visuo-proprioceptive patterns. In our previous study [1], we have shown that the deep dynamic neural network model was able to coordinate visual perception and action generation in a seamless manner. In the current study, we extended the previous model under the predictive coding framework to endow the model with a capability of perceiving and predicting dynamic visuo-proprioceptive patterns as well as a capability of inferring intention behind the perceived visuomotor information through minimizing prediction error. A set of synthetic experiments were conducted in which a robot learned to imitate the gestures of another robot in a simulation environment. The experimental results showed that with given intention states, the model was able to mentally simulate the possible incoming dynamic visuo-proprioceptive patterns in a top-down process without the inputs from the external environment. Moreover, the results highlighted the role of minimizing prediction error in inferring underlying intention of the perceived visuo-proprioceptive patterns, supporting the predictive coding account of the mirror neuron systems. The results also revealed that minimizing prediction error in one modality induced the recall of the corresponding representation of another modality acquired during the consolidative learning of raw-level visuo-proprioceptive patterns.

研究动机与目标

• 开发一种通过预测编码将感知与动作整合的动态神经网络模型，以实现视觉运动学习。
• 使模型能够通过最小化预测误差，推断观察到的视觉运动行为背后的隐藏意图。
• 研究在整合学习过程中，最小化某一感官模态的预测误差如何触发另一模态中表征的回忆。
• 验证模型在无外部输入的情况下，能否以自上而下的方式模拟动态的视觉-本体感觉模式。
• 支持预测编码框架作为解释社会认知中镜像神经元系统功能性的理论依据。

提出的方法

• 该模型基于深度动态神经网络架构，处理视觉和本体感觉感官输入。
• 采用预测编码框架，通过最小化多层之间的预测误差来优化内部表征。
• 网络利用自上而下的反馈连接，基于推断的意图模拟预期的感官模式。
• 在训练过程中，原始的视觉-本体感觉模式被整合为跨模态的共享内部表征。
• 预测误差最小化同时驱动感官预测与意图推断，实现对未见行为的心理模拟。
• 模型在仿真环境中进行训练，机器人通过模仿另一台机器人的手势行为，以意图状态作为监督信号。

实验结果

研究问题

• RQ1 深度动态神经网络能否通过预测误差最小化推断出观察到的视觉运动行为的潜在意图？
• RQ2 在缺乏外部感官输入的情况下，该模型在多大程度上能够模拟动态的视觉-本体感觉模式？
• RQ3 在某一模态（如视觉）中最小化预测误差，是否能触发另一模态（如本体感觉）中对应表征的回忆？
• RQ4 预测编码框架如何支持在连续视觉运动学习过程中感知与动作的整合？
• RQ5 该模型的内部动力学能否模拟预测编码所描述的镜像神经元系统功能特性？

主要发现

• 在给定意图状态的情况下，该模型成功地以自上而下的方式生成了动态视觉-本体感觉模式的心理模拟，且无需外部感官输入。
• 预测误差最小化使模型能够准确推断出观察到的视觉运动序列背后的隐藏意图，支持了镜像神经元的预测编码解释。
• 在某一模态中最小化预测误差可引发另一模态中对应表征的回忆，证明了跨模态整合的有效性。
• 该模型通过端到端学习在预测编码框架下实现了感知与动作的无缝协调。
• 结果凸显了预测误差作为视觉运动学习中感知、推断与心理模拟统一机制的核心作用。
• 该模型在机器人模仿任务中表现出稳健性能，验证了其在表型可塑性与发育机器人学中的适用性。