[論文レビュー] Exploration of Quantum Neural Architecture by Mixing Quantum Neuron Designs

Zhepeng Wang, Zhiding Liang+4 more|arXiv (Cornell University)|Sep 8, 2021

Quantum Computing Algorithms and Architecture参考文献 46被引用数 8

ひとこと要約

本論文は、変動量子回路（VQC）とQuantumFlowニューロンをシームレスに統合する新規な量子ニューラルアーキテクチャ、QF-MixNNを提案する。VQCの実数値重みとQuantumFlowのバイナリ重み効率を組み合わせ、追加の測定を伴わずにMNISTで90.62%の精度を達成し、両方のベースラインを大きく上回る性能を発揮する。

ABSTRACT

With the constant increase of the number of quantum bits (qubits) in the actual quantum computers, implementing and accelerating the prevalent deep learning on quantum computers are becoming possible. Along with this trend, there emerge quantum neural architectures based on different designs of quantum neurons. A fundamental question in quantum deep learning arises: what is the best quantum neural architecture? Inspired by the design of neural architectures for classical computing which typically employs multiple types of neurons, this paper makes the very first attempt to mix quantum neuron designs to build quantum neural architectures. We observe that the existing quantum neuron designs may be quite different but complementary, such as neurons from variational quantum circuits (VQC) and Quantumflow. More specifically, VQC can apply real-valued weights but suffer from being extended to multiple layers, while QuantumFlow can build a multi-layer network efficiently, but is limited to use binary weights. To take their respective advantages, we propose to mix them together and figure out a way to connect them seamlessly without additional costly measurement. We further investigate the design principles to mix quantum neurons, which can provide guidance for quantum neural architecture exploration in the future. Experimental results demonstrate that the identified quantum neural architectures with mixed quantum neurons can achieve 90.62% of accuracy on the MNIST dataset, compared with 52.77% and 69.92% on the VQC and QuantumFlow, respectively.

研究の動機と目的

• 量子ニューラルアーキテクチャ設計における体系的でない探求の欠如、特に異なる量子ニューロンタイプを組み合わせる手法の不在に取り組む。
• VQC（実数値重み、制限された深さ）とQuantumFlow（バイナリ重み、深層ネットワーク）といった補完的な量子ニューロン設計が、性能向上に寄与するかを調査する。
• 中間測定を要しない、異なるデータ符号化方式を有する量子ニューロンを接続するための一般的な設計原則を開発する。
• 標準的な機械学習ベンチマーク、特にMNIST上で提案された混合アーキテクチャの性能を評価し、既存のQNNを上回ることを検証する。

提案手法

• データ符号化と測定フリーのインターフェースを整えることで、異なるアーキテクチャ由来の量子ニューロン（特にVQCとQuantumFlow）を混合するフレームワークを提案する。
• VQCブロック（実数値パラメータを有する）とQuantumFlowレイヤー（バイナリ重みを有する）をユニタリ変換によって接続するハイブリッドネットワーク構造、QF-MixNNを設計する。この変換は量子コherenに寄与する。
• QF-Mixerを開発し、V-Layers、U-Layers、P-Layersの数を変化させた混合量子ニューラルアーキテクチャの体系的構成を可能にする。
• 共有の入力符号化戦略を採用：画像を28×28から4×4、8×8、または16×16にダウンサンプリングし、qubit数に適合させる。データはアモルティュード符号化により符号化される。
• VQCには繰り返しのR1ブロックを用いて深さを増すパラメータ化された量子回路を採用する一方、QuantumFlowレイヤーは固定のバイナリ重み付きエンタングルゲートを用いる。
• VQC部に対して勾配ベースの最適化を実施するが、QuantumFlowレイヤーのバイナリ重み構造を維持することでオーバーヘッドを低減する。

実験結果

リサーチクエスチョン

• RQ1 VQCとQuantumFlowといった異なる量子ニューロン設計を、より強力な量子ニューラルネットワークを構築するために意味的に統合できるか？
• RQ2 アモルティュード符号化とバイナリ符号化といった異なるデータ符号化方法を有する量子ニューロンを、高コストの中間測定を導入せずに接続することは可能か？
• RQ3 VQC由来の実数値重みとQuantumFlow由来のバイナリ重みを統合することで、非線形分離不能なデータセット（例：MNIST）における性能が向上するか？
• RQ4 V-Layersの数が混合アーキテクチャの性能に与える影響は何か？また、深さと最適化安定性のトレードオフはどのようなものか？

主な発見

• QF-MixNNは、MNIST全データセットで90.62%の精度を達成し、VQCベースのQNN（52.77%）およびQuantumFlow（69.92%）を大きく上回る。
• MNIST-2（二値分類）では、VQCベースのQNNがQF-MixNNをわずかに上回る（0.55%の優位性）ことから、線形分離可能性が単純なアーキテクチャを好む可能性を示唆する。
• より複雑なデータセット（MNIST-3、MNIST-4、MNIST-5、MNIST-10）では、QF-MixNNは両方のベースラインを一貫して上回り、特にMNISTではVQCベースのQNNに対して37.85%の精度向上を達成した。
• QF-MixNNにおけるV-Layers（R）の増加は、一定の範囲で精度向上をもたらす。MNIST-4ではRを1から3に増加させることで2.19%の向上を達成したが、R＞3の深層構成では性能が劣化した。
• 量子ニューロンの混合に向けた設計原則は有効であると検証され、測定のオーバーヘッドを伴わずに異なる量子ニューロンタイプのシームレス統合が可能であることが示された。
• QF-Mixerツールにより、混合アーキテクチャの体系的探索が可能となり、実数値重みとバイナリ重み付きニューロンを統合したハイブリッド設計が、標準ベンチマークで優れた性能を発揮することを実証した。