[论文解读] Cognitive systems evolve complex representations for adaptive behavior

Lars Marstaller, Arend Hintze+1 more|arXiv (Cornell University)|Jun 25, 2012

Neural dynamics and brain function参考文献 48被引用 5

一句话总结

本文提出了一种形式化、基于信息论的度量 R，用于量化自适应系统中的认知表征。通过遗传算法演化循环神经网络和隐马尔可夫门网络，结果表明，表征能力 R 随着进化时间以及个体智能体生命周期的推移而增加，说明成功的认知系统必须保持正 R 值，以有效建模其环境。

ABSTRACT

Representations are internal models of the world that provide context to a sensory stream and are formed over evolutionary time as well as learned. We argue here that representations are the expected consequence of an adaptive process, give a formal definition of representation based on information theory, and quantify it using our new measure R. To measure how R changes over time, we evolve two types of networks—a recurrent artificial neural network and a network of hidden Markov gates—to solve a categorization task using a Genetic Algorithm. We find that the capacity to represent increases during evolutionary adaptation and that representations build up during the lifetime of these agents. We examine the concepts that are being represented, how they are logically encoded in the networks, and how they form as an agent behaves to solve a task. We conclude that any successful cognitive system that represents its environment within internal states should have a positive R.

研究动机与目标

• 使用信息论形式化认知系统中表征的概念。
• 开发一个可量化的度量 R，以捕捉系统形成内部表征的能力。
• 研究在自适应智能体的进化与发育过程中，表征如何随时间演变。
• 研究在任务求解行为过程中，神经网络内部概念的逻辑编码与涌现机制。

提出的方法

• 使用信息论正式定义表征，将 R 建立为表征能力的度量。
• 通过遗传算法演化两种网络架构——循环人工神经网络和隐马尔可夫门网络，以解决分类任务。
• 随时间测量 R 的变化，以追踪进化和个体智能体生命周期中表征复杂性的演变。
• 分析演化智能体的内部状态，识别特定概念如何被编码，以及表征如何通过行为交互而涌现。
• 使用信息论工具量化感官输入与内部状态之间的互信息，作为 R 的基础。
• 比较不同网络类型中 R 的增长情况，以评估架构在表征形成中的作用。

实验结果

研究问题

• RQ1 在认知系统的进化适应过程中，表征能力 R 如何变化？
• RQ2 表征在智能体生命周期内积累的程度如何，而非预先设定？
• RQ3 在演化网络的内部状态中，被表征的概念具有何种逻辑结构？
• RQ4 不同的网络架构（循环网络与隐马尔可夫门网络）如何影响 R 的发展？
• RQ5 任务表现与认知系统中正 R 的出现之间存在何种关系？

主要发现

• R 在进化适应过程中显著增加，表明认知系统的表征能力不断增强。
• 个体智能体生命周期内，表征能力 R 同样增加，表明表征并非静态，而是通过与环境的交互而发展。
• 演化网络的内部状态编码了逻辑上连贯的概念，这些概念从与环境的行为交互中涌现。
• 循环神经网络和隐马尔可夫门网络均随时间表现出 R 的增加，表明表征形成是自适应系统的一般特性。
• 本研究证实，任何成功的认知系统都必须保持正 R，才能有效建模并适应其环境。
• 复杂表征的出现与系统解决分类任务的能力直接相关，且 R 作为表征复杂度的可靠指标。