[論文レビュー] QDCNN: Quantum Dilated Convolutional Neural Network

Yixiong Chen|arXiv (Cornell University)|Oct 29, 2021

Quantum Computing Algorithms and Architecture参考文献 53被引用数 5

ひとこと要約

本論文は、拡張畳み込みを量子ニューラルネットワークに統合することで、計算コストを低減しつつより大きな文脈的受容 field を捉えるハイブリッド量子古典型畳み込みニューラルネットワーク QDCNN を提案する。dilation rate が 1 より大きい量子拡張畳み込みを用いることで、MNIST および Fashion-MNIST において標準の QCNN よりも最大 31.74% 低い検証損失と 3% 高い精度を達成するとともに、1 イメージあたりの量子回路実行回数を減らしたため、最大 18.42% の短縮された訓練時間となる。

ABSTRACT

In recent years, with rapid progress in the development of quantum technologies, quantum machine learning has attracted a lot of interest. In particular, a family of hybrid quantum-classical neural networks, consisting of classical and quantum elements, has been massively explored for the purpose of improving the performance of classical neural networks. In this paper, we propose a novel hybrid quantum-classical algorithm called quantum dilated convolutional neural networks (QDCNNs). Our method extends the concept of dilated convolution, which has been widely applied in modern deep learning algorithms, to the context of hybrid neural networks. The proposed QDCNNs are able to capture larger context during the quantum convolution process while reducing the computational cost. We perform empirical experiments on MNIST and Fashion-MNIST datasets for the task of image recognition and demonstrate that QDCNN models generally enjoy better performances in terms of both accuracy and computation efficiency compared to existing quantum convolutional neural networks (QCNNs).

研究の動機と目的

• 量子畳み込みニューラルネットワーク（QCNN）の訓練にかかる計算コストの高い量子回路実行回数の問題を解決すること。
• 量子層における受容 field を拡大するが、キュービット数や回路深さを増加させずにモデル性能を向上させること。
• 深層学習で効率的な文脈の捉え方として知られる古典的拡張畳み込みの概念を、量子機械学習分野へ適応させること。
• ハイブリッド量子古典アーキテクチャにおけるモデル精度、計算効率、量子リソース使用量のトレードオフを評価すること。
• 量子拡張畳み込みが、精度および訓練速度の両面で標準の量子畳み込みを上回ることを実証すること。

提案手法

• QDCNN アーキテクチャは、標準の量子畳み込み層の代わりに、制御可能な拡張率を持つ量子フィルタを適用する量子拡張畳み込み（QDC）層を採用する。
• 各 QDC 層は、受容 field 間のギャップ（拡張）を制御することで、入力特徴量を処理するパラメータ化された量子回路を用い、有効な受容 field サイズを拡大する。
• 特徴マップ内の途中位置を飛ばすことで、1 イメージあたりに必要な量子回路実行回数を削減し、直接的に訓練時間を短縮する。
• PennyLane を用いて Qulacs および default.qubit シミュレータと統合し、非学習可能および学習可能な両方の量子フィルタをサポートする QDCNN を実装する。
• 量子回路はパラメータシフト則を用いて勾配計算を実行し、シミュレータおよびハードウェア互換設定の両方で性能を評価する。
• PyTorch や TensorFlow と互換性があり、主流のディープラーニングワークフローへの統合を可能にする。

実験結果

リサーチクエスチョン

• RQ1 拡張畳み込みを量子ニューラルネットワークに効果的に適応させることで、文脈モデリングの性能が向上するか？
• RQ2 標準の QCNN と比較して、量子拡張畳み込みを用いることで、量子回路実行回数が減少するか？
• RQ3 拡張率を高めることで、量子畳み込みネットワークにおける分類精度がどの程度向上するか？
• RQ4 画像認識タスクにおいて、QDCNN は標準の QCNN と比較して、訓練効率およびモデル精度の両面で優れているか？
• RQ5 NISQ 時代の量子デバイスにおいて、QDCNN は計算オーバーヘッドを低減しながらも、性能を維持または向上させることができるか？

主な発見

• QDCNN_r3 は MNIST で 91.00% のテスト精度、Fashion-MNIST で 81.00% のテスト精度を達成し、QCNN ベースラインより 3% の精度向上を示した。
• MNIST では、QDCNN_r3 が QCNN と比較して検証損失を 31.74% 低減した。これは、最適化と一般化性能の著しい向上を示している。
• 実験 A では、QDCNN モデルが QCNN よりも最大 15.24% の短縮された訓練時間を達成した。これは、量子回路実行回数の削減によるものである。
• 実験 B では、勾配計算にバックプロパゲーションを用いたが、QDCNN は QCNN と比較して依然として最大 18.42% の高速化を達成した。
• 拡張率 r=3 の QDCNN が最も優れた全体的な性能を示し、より大きな受容 field がモデルの能力を向上させることを実証した。
• 1 イメージあたり r=2 および r=3 の場合、r=1 と比較して 27 回の量子回路実行が削減された。この削減が、観察された高速化に直接寄与した。