[论文解读] Quantum Gauged Neural Network: U(1) Gauge Theory

Y. Fujita, Tetsuo Matsui|arXiv (Cornell University)|Jun 30, 2002

Neural Networks and Applications被引用 4

一句话总结

本文通过将经典 Z(2) 规范神经网络中的离散自旋和耦合变量替换为连续 U(1) 相位变量，提出了一种量子扩展版本，形成了类似于吉兹堡-朗道超导性的 U(1) 晶格规范场论。利用平均场理论，该研究识别出库仑相、希格斯相和禁闭相，并发现与经典 Z(2) 模型相比，量子涨落会削弱学习和回忆能力。

ABSTRACT

A quantum model of neural network is introduced and its phase structure is examined. The model is an extension of the classical Z(2) gauged neural network of learning and recalling to a quantum model by replacing the Z(2) variables, $S_i = \pm1$ of neurons and $J_{ij} =\pm1$ of synaptic connections, to the U(1) phase variables, $S_i = \exp(iϕ_i)$ and $J_{ij} = \exp(iθ_{ij}) $. These U(1) variables describe the phase parts of the wave functions (local order parameters) of neurons and synaptic connections. The model takes the form similar to the U(1) Higgs lattice gauge theory, the continuum limit of which is the well known Ginzburg-Landau theory of superconductivity. Its current may describe the flow of electric voltage along axons and chemical materials transfered via synaptic connections. The phase structure of the model at finite temperatures is examined by the mean-field theory, and Coulomb, Higgs and confinement phases are obtained. By comparing with the result of the Z(2) model, the quantum effects is shown to weaken the ability of learning and recalling.

研究动机与目标

• 通过将 Z(2) 规范神经网络扩展为 U(1) 规范场论框架，探索经典神经网络与量子神经网络之间的差异。
• 研究源于连续 U(1) 变量的量子涨落如何影响学习和记忆回忆能力。
• 建立一个现象学的量子神经网络模型，其特征与晶格规范场论和超导性相类似。
• 研究在量子模型中守恒流的出现及其在模拟神经网络中信号传播的潜在作用。

提出的方法

• 将经典 Z(2) 变量 $S_i = \pm 1$ 和 $J_{ij} = \pm 1$ 替换为 U(1) 相位变量 $S_i = e^{i\varphi_i}$ 和 $J_{ij} = e^{i\theta_{ij}}$，形成 U(1) 晶格规范场论。
• 构建一个在局部 U(1) 规范变换下不变的能量泛函，确保其动力学行为类似于规范场论。
• 应用平均场理论分析该模型在有限温度下的相结构，识别出库仑相、希格斯相和禁闭相等不同相。
• 通过诺特定理定义规范不变流 $j_{x\mu}$，从而能够研究沿轴突和突触连接的信号传输。
• 比较 U(1) 模型与经典 Z(2) 模型的相边界和临界温度，以分离出量子效应的影响。
• 利用从能量泛函推导出的时间演化规则，模拟量子模型中的学习和回忆过程。

实验结果

研究问题

• RQ1 将离散的 Z(2) 变量替换为连续的 U(1) 相位变量，如何改变规荐神经网络模型的相结构？
• RQ2 与经典 Z(2) 模型相比，量子涨落如何改变临界温度和相边界？
• RQ3 在量子 U(1) 模型中能否定义守恒流？其在神经信号传播中具有何种物理意义？
• RQ4 与经典版本相比，量子效应在多大程度上削弱了网络的学习和模式回忆能力？
• RQ5 U(1) 规范结构如何影响学习过程中突触权重的稳定性和动力学行为？

主要发现

• U(1) 量子模型的相结构比经典 Z(2) 模型更丰富，包括明显的库仑相、希格斯相和禁闭相。
• U(1) 模型中相变的临界温度高于 Z(2) 模型，表明量子涨落增强了系统对相变的稳定性。
• 与 Z(2) 模型相比，U(1) 模型中禁闭相的区域更广，表明量子效应导致神经活动更强的局域化。
• 量子涨落降低了网络的学习和模式回忆能力，这由更宽的禁闭相和更高的临界温度所证实。
• 由于连续 U(1) 对称性，U(1) 模型中出现了守恒的规范不变流 $j_{x\mu}$，从而可系统研究神经网络中的信号传输。
• 该模型在重整化群理论的意义上具有普遍性，适用于具有 U(1) 规范对称性的广泛类别的底层微观量子理论。