[论文解读] Synergistic information supports modality integration and flexible learning in neural networks solving multiple tasks

Alexandra M. Proca, Fernando E. Rosas+4 more|arXiv (Cornell University)|Oct 6, 2022

Neural Networks and Applications被引用 7

一句话总结

本文通过应用部分信息分解（PID）分析监督学习和强化学习过程中的信息处理，研究人工神经网络中协同信息如何支持灵活的多模态学习。研究发现，当网络学习多个多样化任务时，协同作用增强，从而实现模态整合与高效学习；而Dropout则通过增强冗余性提升鲁棒性——凸显协同作用在人工与生物系统中通用认知能力中的核心作用。

ABSTRACT

Striking progress has recently been made in understanding human cognition by analyzing how its neuronal underpinnings are engaged in different modes of information processing. Specifically, neural information can be decomposed into synergistic, redundant, and unique features, with synergistic components being particularly aligned with complex cognition. However, two fundamental questions remain unanswered: (a) precisely how and why a cognitive system can become highly synergistic; and (b) how these informational states map onto artificial neural networks in various learning modes. To address these questions, here we employ an information-decomposition framework to investigate the information processing strategies adopted by simple artificial neural networks performing a variety of cognitive tasks in both supervised and reinforcement learning settings. Our results show that synergy increases as neural networks learn multiple diverse tasks. Furthermore, performance in tasks requiring integration of multiple information sources critically relies on synergistic neurons. Finally, randomly turning off neurons during training through dropout increases network redundancy, corresponding to an increase in robustness. Overall, our results suggest that while redundant information is required for robustness to perturbations in the learning process, synergistic information is used to combine information from multiple modalities -- and more generally for flexible and efficient learning. These findings open the door to new ways of investigating how and why learning systems employ specific information-processing strategies, and support the principle that the capacity for general-purpose learning critically relies in the system's information dynamics.

研究动机与目标

• 理解人工神经网络在学习过程中协同信息如何涌现及其在认知中的功能角色。
• 探究信息分解各成分（协同、冗余、唯一性）与多任务设置中学习性能之间的关系。
• 探索如Dropout等训练策略如何影响神经网络中的信息处理动态。
• 为信息动力学如何支持人工系统中通用学习提供计算基础。
• 在人工网络与生物神经系统的关联方面进行探讨，尤其关注与高级认知功能相关的脑区。

提出的方法

• 应用部分信息分解（PID）将神经网络激活中的信息分解为唯一性、冗余性和协同性成分。
• 在逻辑门、3D导航以及认知决策基准（Animal-AI、NeuroGym）等多样化任务上训练小型人工神经网络。
• 采用监督学习与强化学习（含与不含循环连接）以评估不同训练范式下的信息处理。
• 采用两种不同的冗余度度量（$I_{\text{MMI}}$ 和 $I_{\min}$）及多种信息估计器（离散与连续）以确保结果的稳健性。
• 分析神经元层面的信息含量，识别在不同学习情境中占主导地位的神经元类型（协同性、唯一性、冗余性）。
• 通过在训练期间随机禁用神经元来评估Dropout的影响，并测量冗余度与协同性变化。

实验结果

研究问题

• RQ1 与单一任务相比，学习多个多样化任务时，神经网络中的协同性如何变化？
• RQ2 在需要整合多个信息源的任务中，协同性信息发挥何种功能作用？
• RQ3 训练期间的Dropout如何影响神经网络中唯一性、冗余性和协同性信息的分布？
• RQ4 信息分解的各成分在多大程度上与生物大脑中已知的功能特化相对应？
• RQ5 协同性信息处理能否与人工系统中灵活的通用学习能力相关联？

主要发现

• 当神经网络学习多个多样化任务时，协同性显著增加，尤其在需要整合多个信息源的任务中。
• 需要多模态或跨源整合的任务强烈依赖于具有高协同性信息含量的神经元。
• 训练期间的Dropout可增加冗余度与系统鲁棒性，同时最小化与任务无关的特征，表明冗余性在系统稳定性中具有功能性作用。
• 在包含模拟物理的复杂强化学习环境中，协同性源于对多种感官和情境输入的整合。
• 具体整合多个不一致的任务会显著提升协同性信息，从而支持灵活与自适应行为。
• 具有纯选择性的神经元主要表现出唯一性和冗余性表征，而协同性神经元则是信息整合与灵活学习的核心。