[论文解读] Neural Networks, Game Theory and Time Series Generation

Richard Metzler|arXiv (Cornell University)|Dec 19, 2002

Neural Networks and Applications参考文献 73被引用 3

一句话总结

本论文研究了神经网络、博弈论与时间序列生成之间的相互作用，提出了能够干扰标准预测算法的反预测性时间序列。研究分析了简单感知机与连续感知机、决策表及少数派博弈的变体，展示了神经智能体如何在零和博弈中学习最优策略，以及学习系统中如何涌现出复杂且混沌的动力学行为。

ABSTRACT

This dissertation highlights connections between the fields of neural networks, game theory and time series generation. The concept of antipredictability is explained, and the properties of time series that are antipredictable for several prototypical prediction algorithms (neural networks, Boolean funtions etc.) are studied. The Minority Game provides a framework in which antipredictability arises naturally. Several variations of the MG are introduced and compared, including extensions to more than two choices, and the properties of the generated time series are analysed. A learning algorithm is presented by which a neural network can find a good mixed strategy in zero-sum matrix games. In a certain limit, this algorithm is a stochastic variation of the "fictitious play" learning algorithm.

研究动机与目标

• 通过构建能够干扰特定算法的反预测性序列，理解时间序列预测的极限。
• 分析由神经网络生成的时间序列的动力学与统计特性，特别是采用赫布学习规则的感知机。
• 探索连续感知机与决策表中复杂行为（如混沌与间歇性动力学）的涌现。
• 研究神经网络与学习规则在双人零和博弈中收敛至纳什均衡的机制。
• 将少数派博弈推广至多选项情形，研究随机策略与神经策略在集体决策中的作用。

提出的方法

• 使用采用赫布学习规则的简单感知机与连续感知机，生成具有受控自相关函数的二值与连续时间序列。
• 应用平均场理论与李雅普诺夫指数计算，分析连续感知机中的混沌动力学。
• 采用德布鲁因图与图论方法，分析决策表与反持久时间序列中的循环结构。
• 在少数派博弈中引入随机策略，并对小规模与大规模群体进行解析求解。
• 将赫布学习规则适配至矩阵博弈，证明在零和博弈中可收敛至纳什均衡策略。
• 使用蒙特卡洛模拟与解析近似方法，验证高维与复杂系统中的结果。

实验结果

研究问题

• RQ1 哪些结构与动力学特性使时间序列对特定预测算法具有内在不可预测性？
• RQ2 感知机的权重演化与输出统计特性如何与生成时间序列的自相关结构相关联？
• RQ3 循环长度与吸引子维数在神经时间序列的可预测性与混沌行为中起何种作用？
• RQ4 少数派博弈中的随机策略与神经策略能否实现最优性能？其与随机或进化策略相比表现如何？
• RQ5 赫布学习在双人零和博弈的神经网络中，能在多大程度上近似纳什均衡？

主要发现

• 对于任何预测算法，均存在反预测性时间序列，其特征包括抑制相关性与复杂循环结构，可有效干扰标准预测器。
• 基于简单感知机中赫布学习的混乱位生成器（CBG）可生成具有定制自相关函数的二值序列。
• 连续感知机表现出高维混沌动力学，具有正李雅普诺夫指数与间歇性行为，尤其在系统规模较大与增益较高时更为显著。
• 具有动态反持久性的决策表可生成具有可预测循环长度与分布的时间序列，可通过德布鲁因图进行分析。
• 少数派博弈中的随机策略可获得解析解，对噪声具有鲁棒性，性能与确定性策略相当。
• 双人博弈中基于赫布学习规则的神经网络可近似纳什均衡，尤其在小规模收益矩阵中表现良好，并可通过修改规则推广至偏置模式学习。