[论文解读] Learning in cognitive systems with autonomous dynamics

Claudius Gros, Gregor Kaczor|ArXiv.org|Apr 8, 2008

Neural dynamics and brain function参考文献 16被引用 6

一句话总结

本文提出了一种受生物学启发的学习框架，用于自主认知系统，其中在自我维持的内部活动状态之间的瞬态转换期间发生无监督特征提取。通过利用具有竞争动力学的密集同质关联网络（dHAN），该模型在敏感期——即瞬态吸引子之间的过渡阶段——自主生成学习信号，从而在无外部监督的情况下实现对条纹条输入的快速无监督独立成分分析。

ABSTRACT

The activity patterns of highly developed cognitive systems like the human brain are dominated by autonomous dynamical processes, that is by a self-sustained activity which would be present even in the absence of external sensory stimuli. During normal operation the continuous influx of external stimuli could therefore be completely unrelated to the patterns generated internally by the autonomous dynamical process. Learning of spurious correlations between external stimuli and autonomously generated internal activity states needs therefore to be avoided. We study this problem within the paradigm of transient state dynamics for the internal activity, that is for an autonomous activity characterized by a infinite time-series of transiently stable attractor states. We propose that external stimuli will be relevant during the sensitive periods, the transition period between one transient state and the subsequent semi-stable attractor. A diffusive learning signal is generated unsupervised whenever the stimulus influences the internal dynamics qualitatively. For testing we have presented to the model system stimuli corresponding to the bar-stripes problem and found it capable to perform the required independent-component analysis on its own, all the time being continuously and autonomously active.

研究动机与目标

• 开发一种由内在自维持神经动力学驱动而非外部输入的自主认知系统范式。
• 解决高度自主系统中外部刺激与内部生成活动模式之间形成虚假相关性的挑战。
• 识别感官输入在何时以及以何种方式能够有意义地影响内部动力学而不破坏系统的自主运行。
• 实现一种仅在特定过渡阶段——即敏感期——之间瞬态吸引子状态时激活的无监督学习机制。
• 测试该学习机制在执行稀疏时间输入（如条纹条图案）的独立成分分析方面的可行性。

提出的方法

• 使用密集同质关联网络（dHAN）对内部动力学进行建模，该网络生成一系列瞬态、半稳定吸引子状态的时间序列。
• 通过由增长率 $ r_i(t) $ 控制的连续时间速率动力学定义神经活动，其中当 $ r_i > 0 $ 时 $ \dot{x}_i = (1 - x_i)r_i $，当 $ r_i < 0 $ 时 $ \dot{x}_i = x_i r_i $。
• 引入“敏感期”——即瞬态状态之间的过渡区间——在此期间外部刺激可定性地影响内部动力学并触发学习。
• 每当感官输入在这些敏感期内改变内部动力学轨迹时，便无监督地生成扩散性学习信号。
• 应用正交化程序（公式6）对突触权重 $ v_{ij}^{pq} $ 进行处理，支持重叠的获胜联盟并防止饱和，与“通过错误学习”原则一致。
• 使用15个节点的线性链dHAN，包含14个潜在获胜联盟（例如 (0,1)、(1,2)、...、(14,15)），以模拟感受野和对10种条纹条输入模式的特征响应。

实验结果

研究问题

• RQ1 认知系统如何在保持自主内部动力学的同时，仍能从外部刺激中学习而不形成虚假相关性？
• RQ2 外部刺激能够有意义地影响内部动力学并触发学习的时序条件是什么，特别是过渡阶段？
• RQ3 自维持动力系统能否仅利用内部瞬态状态转换作为学习触发，执行无监督独立成分分析？
• RQ4 重叠的获胜联盟与非饱和的突触更新如何影响竞争性自主网络中的特征提取性能？
• RQ5 在不同输入条件下（包括稀疏和准连续刺激）下，该学习机制的鲁棒性如何？

主要发现

• 该模型仅使用瞬态状态转换作为学习触发，成功对10个条纹条输入问题执行了无监督独立成分分析。
• 学习过程快速且无监督，14个潜在获胜联盟中的每一个均发展出独特的感受野，如图7所示。
• 感受野表现出正负权重，反映出由于正交化程序（公式6）产生的复杂正交突触配置。
• 通过平衡活跃、正交化和非活跃贡献（公式6），系统避免了突触饱和，与“通过错误学习”原则一致。
• 尽管存在过度完备性（获胜联盟数量多于独立输入模式数量），该模型在特征提取方面表现出鲁棒性，尽管部分条纹（如倒数第二根垂直条纹）未被完全解析。
• 初步结果表明，该框架在多种输入条件下仍保持功能，支持未来扩展至自然场景分析和连续输入。