[論文レビュー] Evaluating the performance of sigmoid quantum perceptrons in quantum neural networks

Samuel A Wilkinson, Michael J. Hartmann|arXiv (Cornell University)|Aug 12, 2022

Quantum Computing Algorithms and Architecture被引用数 4

ひとこと要約

この論文は、古典的ニューラルネットワークの活性化関数を模倣するように設計された量子回路であるシグモイド量子パーセプトロン（SQPs）の表現力と性能を、より単純なパラメトリック量子回路と比較することで評価している。古典的ネットワークから普遍近似性を継承しているにもかかわらず、SQPsは古典的および量子学習タスクにおいて性能が劣っており、NISQ時代において非線形活性化関数が量子優位性をもたらさないことが示唆されている。

ABSTRACT

Quantum neural networks (QNN) have been proposed as a promising architecture for quantum machine learning. There exist a number of different quantum circuit designs being branded as QNNs, however no clear candidate has presented itself as more suitable than the others. Rather, the search for a ``quantum perceptron" -- the fundamental building block of a QNN -- is still underway. One candidate is quantum perceptrons designed to emulate the nonlinear activation functions of classical perceptrons. Such sigmoid quantum perceptrons (SQPs) inherit the universal approximation property that guarantees that classical neural networks can approximate any function. However, this does not guarantee that QNNs built from SQPs will have any quantum advantage over their classical counterparts. Here we critically investigate both the capabilities and performance of SQP networks by computing their effective dimension and effective capacity, as well as examining their performance on real learning problems. The results are compared to those obtained for other candidate networks which lack activation functions. It is found that simpler, and apparently easier-to-implement parametric quantum circuits actually perform better than SQPs. This indicates that the universal approximation theorem, which a cornerstone of the theory of classical neural networks, is not a relevant criterion for QNNs.

研究の動機と目的

• シグモイド量子パーセプトロン（SQPs）が、量子機械学習におけるより単純なパラメトリック量子回路に対して意味的な量子優位性を提供するかを評価すること。
• 古典的ニューラルネットワークの普遍近似性が、SQPsから構築された量子ネットワークに意味的に拡張可能かどうかを調査すること。
• SQPベースのネットワークと、線形かつユニタリー操作のみを用いるネットワークの表現力と性能を、NISQ時代のハードウェア制約の文脈で比較すること。
• 古典的スタイルの非線形活性化関数を量子回路に実装することで、古典的および量子機械学習タスクにおける性能向上が達成されるかどうかを特定すること。

提案手法

• 著者らは3つのQNNアーキテクチャを構築した：1つはシグモイド量子パーセプトロン（SQPs）に基づくもの、1つはBeerら（2020）の深層フィードフォワードQNNに基づくもの、もう1つは単一キュービットのY回転とCNOTゲートのみを用いたもの。
• 統計力学と情報幾何学から導かれた指標を用いて、各ネットワークの有効次元と有効容量を計算し、表現力を定量化した。
• 各アーキテクチャの性能は、古典的画像分類や量子ユニタリー学習といった実際の学習タスクで評価された。
• SQPは、入力状態から出力状態へのユニタリー操作としてモデル化され、ターゲットキュービットの励起確率が入力重みとバイアスのシグモイド関数に従うように設計された。
• このプロトコルは、時間に依存するイジング型ハミルトニアン下での断続的遷移として導出され、シグモイド関数は系の瞬間固有状態の断続的遷移から生じた。
• 最終的なユニタリー操作は、系の断続的遷移から導出され、各入力基底状態が入力の重み付き和のシグモイド関数に依存する重みを持つ重ね合わせ状態に発展することを保証した。

実験結果

リサーチクエスチョン

• RQ1 シグモイド量子パーセプトロン（SQPs）は、より単純なパラメトリック量子回路と比較して、顕著な表現力の向上をもたらすか？
• RQ2 古典的ニューラルネットワークの普遍近似性は、SQPsから構築された量子ネットワークにも意味的に継承されるか？
• RQ3 SQPベースのネットワークは、NISQ環境下で、古典的学習タスク（例：画像分類）および量子的タスク（例：ユニタリー学習）においてどのように性能を発揮するか？
• RQ4 量子回路に非線形活性化関数を組み込むことは、量子機械学習における量子優位性を達成するために必要または有益であるか？
• RQ5 有効次元、有効容量、および実際の学習性能の観点から、SQPsはより単純でハードウェアに配慮した量子回路を上回るか？

主な発見

• 古典的ネットワークから普遍近似性を継承しているにもかかわらず、有効次元と有効容量の観点から測定したところ、SQPベースのQNNはより単純なパラメトリック量子回路よりも表現力が低いことが判明した。
• 量子ユニタリー学習など、入力と出力がともに量子状態であるような量子機械学習タスクにおいて、SQPネットワークは性能が著しく劣っており、量子優位性が限定的であることが示された。
• 画像分類のような古典的学習タスクにおいては、SQPsは古典的ニューラルネットワークを模倣可能であるが、依然としてより単純な変分量子回路に劣る性能を示した。
• 本研究では、単一キュービットのY回転とCNOTゲートのみから構成される、より単純でハードウェアに配慮したパラメトリック量子回路が、表現力と学習性能の両面でSQPネットワークを上回ることが判明した。
• 普遍近似定理は、古典的ディープラーニングの基盤ではあるが、NISQ時代の量子ニューラルネットワークの設計原則としては信頼できないことが示された。
• 結果として、近い将来の量子機械学習において、古典的スタイルの非線形活性化関数を量子回路に組み込むことは、性能向上や量子優位性の実現に寄与しない可能性があることが示唆された。