[論文レビュー] Quantum Algorithms for Deep Convolutional Neural Networks

Iordanis Kerenidis, Jonas Landman+1 more|arXiv (Cornell University)|Nov 4, 2019

Quantum Computing Algorithms and Architecture参考文献 41被引用数 81

ひとこと要約

量子畳み込み層と量子逆伝播を備えた量子畳み込みニューラルネットワーク（QCNN）を提案し、古典的CNNに対する潜在的な速度向上を示し、シミュレーションを通じてMNIST分類の実現性を示す。

ABSTRACT

Quantum computing is a new computational paradigm that promises applications in several fields, including machine learning. In the last decade, deep learning, and in particular Convolutional neural networks (CNN), have become essential for applications in signal processing and image recognition. Quantum deep learning, however remains a challenging problem, as it is difficult to implement non linearities with quantum unitaries. In this paper we propose a quantum algorithm for applying and training deep convolutional neural networks with a potential speedup. The quantum CNN (QCNN) is a shallow circuit, reproducing completely the classical CNN, by allowing non linearities and pooling operations. The QCNN is particularly interesting for deep networks and could allow new frontiers in image recognition, by using more or larger convolution kernels, larger or deeper inputs. We introduce a new quantum tomography algorithm with $\ell_{\infty}$ norm guarantees, and new applications of probabilistic sampling in the context of information processing. We also present numerical simulations for the classification of the MNIST dataset to provide practical evidence for the efficiency of the QCNN.

研究の動機と目的

• データ量の増大とCNN展開の時代において、スケーラブルな量子加速ディープラーニングの必要性を喚起する。
• 任意の深さ、カーネルサイズ、プーリング/非線形性オプションに対応するモジュラーな量子CNN（QCNN）アーキテクチャを導入する。
• QRAMと互換性のある畳み込み、非線形性、プーリング、逆伝播の量子サブルーチンを開発する。
• QCNNにおける順伝播と逆伝播の理論的保証と複雑性の議論を提供する。
• MNISTシミュレーションによる実用的な実現性を示し、古典的CNNの性能と比較する。

提案手法

• 3D入力テンソルと4Dカーネルを層の出力を表す量子状態へ写像する量子畳み込み演算を定義する。
• 量子状態から顕著な出力を復元するために、l_infty保証を用いた量子トモグラフィー技法を用いる。
• 振幅推定と中央値評価を適用して、畳み込み内部積を効率的にエンコード・抽出する。
• QCNNの訓練のために勾配を推定・更新する量子逆伝播を用いる。
• 前方伝播の実行時間を、カーネル数に対して指数関数的に、入力サイズに対してはサブリニアな要因を示すように解析する。
• 精度と整定性パラメータを伴う完全な前向き・後向き量子アルゴリズム（Algorithm 1とAlgorithm 2）を提示する。

実験結果

リサーチクエスチョン

• RQ1 量子アルゴリズムはCNNの前向き伝播を再現し、量子状態とl_inftyトモグラフィーを介して意味のある出力を得ることができるか。
• RQ2 QRAM仮定の下で、QCNNの前方伝播と逆伝播の潜在的な速度向上は、古典的CNNと比較してどの程度か。
• RQ3 非線形性とプーリングを、古典的CNNの挙動を模倣するように量子回路でどのように実装できるか。
• RQ4 スケーラブルなQCNN訓練を支える計算・データ構造要件（QRAM）は何か。
• RQ5 シミュレーションで、MNIST風の分類タスクはQCNNと古典的CNNと同等の精度を達成するか。

主な発見

• 古典的畳み込み結果を近似する状態を出力する量子畳み込み層が存在し、誤差は制御可能で、時間計算量は入力サイズとカーネル数で多項対数的にスケールする。
• 勾配をカーネルパラメータに関する損失の勾配を推定し、指定された誤差許容の下で勾配降下法を実行するために量子逆伝播を実装できる。
• 提案された枠組みの下で、前方伝播の速度向上はカーネル数に対して指数的、入力空間次元に対してほぼ二次的で達成されうる。
• 新規のl_inftyノルムベクトル状態トモグラフィが開発され、特定の量子状態読出しにおいてl_2トモグラフィに対して指数的改善を提供する。
• MNISTの数値シミュレーションは、試験されたシナリオでQCNNが古典的CNNと類似の分類精度を達成することを示している。