[論文レビュー] Quantum Walk Inspired Neural Networks for Graph-Structured Data

Stefan Dernbach, Arman Mohseni-Kabir+3 more|arXiv (Cornell University)|Jan 16, 2018

Quantum Computing Algorithms and Architecture参考文献 24被引用数 3

ひとこと要約

この論文は、グラフ構造データ上の拡散作用素を学習するために量子ランダムウォークを活用する、新しいグラフニューラルネットワークアーキテクチャである量子ウォークニューラルネットワーク（QWNNs）を提案する。古典的な遷移行列の代わりにユニタリな時間発展を用いて情報伝播をモデル化することで、分子、生物学的、温度関連のデータセットにおいてノードおよびグラフの回帰・分類タスクで最先端または競争力のある性能を達成し、グラフ学習における量子インスパイアド手法の可能性を示している。

ABSTRACT

In recent years, new neural network architectures designed to operate on graph-structured data have pushed the state-of-the-art in the field. A large set of these architectures utilize a form of classical random walks to diffuse information. We propose quantum walk neural networks (QWNN), a novel graph neural network architecture based on quantum random walks, the quantum parallel to classical random walks. A QWNN learns a quantum walk on a graph to construct a diffusion operator which can then be applied to graph-structured data. We demonstrate the use of QWNNs on a variety of prediction tasks on graphs involving temperature, biological, and molecular datasets.

研究の動機と目的

• 量子ランダムウォークにインspiredされた新しいグラフニューラルネットワークアーキテクチャの開発を通じて、グラフ上の情報拡散を改善すること。
• 量子インスパイアド技術が、古典的ランダムウォークに基づくGNNと比較して、グラフ構造表現の学習において優位性を示すかどうかを検討すること。
• QWNNsの多様なグラフ予測タスク（ノード回帰、グラフ回帰、グラフ分類）における性能を評価すること。
• QWNNsの限界、特に空間複雑性とグラフ構造の順序に依存する感度の観点からの分析。
• 将来の量子ハードウェアで実装可能な量子機械学習モデルの基盤を築くこと。

提案手法

• QWNNsは、ユニタリ時間発展によって制御される離散的量子ウォークを用いて、グラフ上の情報拡散をモデル化し、古典的遷移行列の代わりに量子演算子を採用する。
• アーキテクチャは、ユニタリなコイン演算子とシフト演算子を用い、複数の時間ステップにわたりノード間を量子状態が進化させる。
• 量子ウォークは学習可能なユニタリ操作でパラメータ化されており、ネットワークが学習タスクに応じて拡散プロセスを適応可能にする。
• 最終的な量子ウォーク状態を用いて拡散行列を構築し、下流の予測タスクのためのグラフ表現とする。
• 空間的コイン実装を採用し、各ノードのコインをエッジの順序に独立して調整することで、グラフ表現に対する不変性を向上させる。
• QWNNは微分可能な損失関数を用いたバックプロパゲーションにより学習され、学習済みの拡散行列は推論用にキャッシュ可能である。

実験結果

リサーチクエスチョン

• RQ1 量子ウォークに基づく拡散メカニズムは、古典的ランダムウォークに基づく手法よりもグラフ表現学習で優れた性能を示せるか？
• RQ2 量子ウォークのユニタリ時間発展は、グラフニューラルネットワークの表現力および一般化性能にどのように影響するか？
• RQ3 QWNNsは、最先端のGNNと比較して、ノードレベルおよびグラフレベルの回帰・分類タスクでどの程度の性能向上を達成するか？
• RQ4 QWNNsはエッジ順序やグラフ同型性などの構造的変化をどのように処理するか？
• RQ5 古典的環境で量子ウォーク層を実装する際の計算およびメモリ上の制限は何か？

主な発見

• QM7分子データセットでは、QWNNsは原子化エネルギー予測でRMSE 12.52±0.91を達成し、GCNN（19.26±0.47）およびDCNN（15.51±1.12）を上回った。
• PTCおよびPROTEINSデータセットでは、QWNNsはそれぞれテストF1スコア0.71±0.01および0.85±0.06を達成し、GCNNおよびDCNNと同等またはそれを上回った。
• 類似度に基づく学習を用いたQWNNは、PROTEINSデータセットでF1スコア0.92±0.03を達成し、GCNN（0.83±0.09）およびDCNN（0.67）を顕著に上回った。
• グラフ回帰タスクにおいても性能向上が見られ、QWNN（中心性）はMAE 8.93±0.14を達成し、GCNNの14.77±0.26を下回った。
• 優れた性能を発揮したが、ノードごとに独立した量子ウォークシミュレーションが必要なため、計算コストが高く、トレーニング時間が長くなった。
• 完全な拡散行列のための空間複雑度O(N²dT)は、特にGPUハードウェア上での大規模グラフへのスケーラビリティを制限する。