[論文レビュー] Quantum Gauged Neural Network: U(1) Gauge Theory

Y. Fujita, Tetsuo Matsui|arXiv (Cornell University)|Jun 30, 2002

Neural Networks and Applications被引用数 4

ひとこと要約

本稿では、離散スピンおよび結合変数を連続的U(1)位相変数に置き換えることで、古典的Z(2)規範付きニューラルネットワークの量子拡張を提案し、ギンツブルグ＝ランダウの超伝導体に類似したU(1)格子規範理論を構築する。平均場理論を用いて、クーロン相、ヒッグス相、閉じ込め相を同定し、量子揺らぎが古典的Z(2)モデルと比較して学習および想起能力を弱めることが判明した。

ABSTRACT

A quantum model of neural network is introduced and its phase structure is examined. The model is an extension of the classical Z(2) gauged neural network of learning and recalling to a quantum model by replacing the Z(2) variables, $S_i = \pm1$ of neurons and $J_{ij} =\pm1$ of synaptic connections, to the U(1) phase variables, $S_i = \exp(iϕ_i)$ and $J_{ij} = \exp(iθ_{ij}) $. These U(1) variables describe the phase parts of the wave functions (local order parameters) of neurons and synaptic connections. The model takes the form similar to the U(1) Higgs lattice gauge theory, the continuum limit of which is the well known Ginzburg-Landau theory of superconductivity. Its current may describe the flow of electric voltage along axons and chemical materials transfered via synaptic connections. The phase structure of the model at finite temperatures is examined by the mean-field theory, and Coulomb, Higgs and confinement phases are obtained. By comparing with the result of the Z(2) model, the quantum effects is shown to weaken the ability of learning and recalling.

研究の動機と目的

• 古典的および量子ニューラルネットワークの違いを、Z(2)規範付きニューラルネットワークをU(1)規範理論的枠組みに拡張することによって探求すること。
• 連続的U(1)変数に起因する量子揺らぎが、学習および記憶想起能力に与える影響を調査すること。
• 格子規範理論および超伝導体の側面を模倣する現象的量子ニューラルネットワークモデルを確立すること。
• 量子モデルにおける保存電流の出現を検討し、神経系における信号伝達のモデル化におけるその可能性を検討すること。

提案手法

• 古典的Z(2)変数$S_i = \pm 1$および$J_{ij} = \pm 1$をU(1)位相変数$S_i = e^{i\varphi_i}$および$J_{ij} = e^{i\theta_{ij}}$に置き換え、U(1)格子規範理論を構築する。
• 局所的U(1)規範変換に対して不変なエネルギー関数を構築し、規範場理論に類似した局所的ダイナミクスを保証する。
• 有限温度におけるモデルの相構造を解析するため平均場理論を適用し、クーロン相、ヒッグス相、閉じ込め相などの明確な相を同定する。
• ネーターの定理を用いてゲージ不変な電流$j_{x\mu}$を定義し、軸索およびシナプス接続に沿った信号伝達の研究を可能にする。
• U(1)モデルと古典的Z(2)モデルの相境界および臨界温度を比較し、量子効果を分離する。
• エネルギー関数から導かれる時間発展則を用いて、量子モデルにおける学習および想起プロセスをシミュレートする。

実験結果

リサーチクエスチョン

• RQ1 離散的Z(2)変数を連続的U(1)位相変数に置き換えることで、規範付きニューラルネットワークモデルの相構造はどのように変化するか？
• RQ2 量子揺らぎは、古典的Z(2)モデルと比較して、臨界温度および相境界をどのように変化させるか？
• RQ3 量子U(1)モデルにおいて保存電流を定義できるか？また、神経信号伝達におけるその物理的解釈は何か？
• RQ4 量子効果は、古典的バージョンと比較して、ネットワークのパターン学習および想起能力をどの程度弱めるか？
• RQ5 U(1)規範構造は、学習プロセス中のシナプス重みの安定性およびダイナミクスにどのように影響を与えるか？

主な発見

• U(1)量子モデルは、古典的Z(2)モデルよりも洗練された相構造を示し、明確なクーロン相、ヒッグス相、閉じ込め相を含む。
• U(1)モデルにおける相転移の臨界温度は、Z(2)モデルよりも高いことが判明し、量子揺らぎが系の相転移に対して安定化効果を示している。
• U(1)モデルでは、Z(2)モデルと比較して閉じ込め相の領域が広がっており、量子効果による神経活動の局在化が強まっていることが示唆される。
• 量子揺らぎは、閉じ込め相が広がり、臨界温度が高いことから、ネットワークのパターン学習および想起能力を低下させると判明した。
• 連続的U(1)対称性に起因する保存ゲージ不変電流$j_{x\mu}$がU(1)モデルに出現し、神経ネットワークにおける信号伝達の体系的解析を可能にする。
• モデルは、renormalization group理論の意味で普遍的であり、U(1)規範対称性を有する広範なクラスの基礎的量子理論に適用可能である。