[論文レビュー] Classical-to-quantum convolutional neural network transfer learning

Juhyeon Kim, Joonsuk Huh+1 more|arXiv (Cornell University)|Aug 31, 2022

Quantum Computing Algorithms and Architecture参考文献 56被引用数 6

ひとこと要約

本論文は、事前に学習された古典的畳み込みニューラルネットワーク（CNN）を用いて量子畳み込みニューラルネットワーク（QCNN）を初期化する古典的から量子的への転移学習フレームワークを提案する。この手法により、最小限の量子回路深さでMNISTデータに対する高精度な分類が可能となり、近い将来のノイズの多い中規模量子（NISQ）時代において、古典的転移学習よりも統計的に有意な精度向上を達成し、量子優位性を示す。

ABSTRACT

Machine learning using quantum convolutional neural networks (QCNNs) has demonstrated success in both quantum and classical data classification. In previous studies, QCNNs attained a higher classification accuracy than their classical counterparts under the same training conditions in the few-parameter regime. However, the general performance of large-scale quantum models is difficult to examine because of the limited size of quantum circuits, which can be reliably implemented in the near future. We propose transfer learning as an effective strategy for utilizing small QCNNs in the noisy intermediate-scale quantum era to the full extent. In the classical-to-quantum transfer learning framework, a QCNN can solve complex classification problems without requiring a large-scale quantum circuit by utilizing a pre-trained classical convolutional neural network (CNN). We perform numerical simulations of QCNN models with various sets of quantum convolution and pooling operations for MNIST data classification under transfer learning, in which a classical CNN is trained with Fashion-MNIST data. The results show that transfer learning from classical to quantum CNN performs considerably better than purely classical transfer learning models under similar training conditions.

研究の動機と目的

• 近い将来の量子デバイスにおける回路サイズの制限に取り組むために、小規模な量子モデルを効果的に活用することを目的とする。
• 古典的CNNから転移学習を経て学習された量子畳み込みニューラルネットワーク（QCNN）が、古典的モデルを上回る性能を示すかどうかを検証することを目的とする。
• 古典的CNNからQCNNへの知識の転送が、古典的データ次元の低減を回避し、制限された量子リソース下でも分類精度を向上させることを目的とする。
• 統計的有意性検定を用いて古典的転移学習ベースラインと比較することで、転移学習における量子優位性の存在を検証することを目的とする。

提案手法

• 事前に学習された古典的CNNをFashion-MNISTデータで微調整し、MNIST分類のための特徴表現を抽出する。
• 抽出された特徴を量子ビット状態にマッピングし、階層的かつ浅い深さのアーキテクチャを持つQCNNに供給することで、量子優位性を保持する。
• 入力量子ビットに対して、量子畳み込みおよびプーリング操作（特にZX、一般化、および自明なプーリング）を適用し、空間的特徴を処理する。
• ハイブリッド量子古典最適化ループを用いてQCNNを訓練し、パラメータシフト則を用いて勾配を計算し、古典的に更新する。
• QCNNを古典的CNNの学習済み重みで初期化することで、大規模な量子回路の必要性を低減する形で転移学習を実装する。
• 性能差の統計的有意性は、有意水準α = 0.05でウェルチのt検定を用いて評価する。

実験結果

リサーチクエスチョン

• RQ1 古典的から量子的への転移学習を経て学習されたQCNNは、最小限の量子回路深さで、古典的転移学習モデルよりもMNISTで高い分類精度を達成できるか？
• RQ2 提案されたC2Q転移学習フレームワークは、古典的データ次元の低減を回避しつつ、性能を維持または向上させることができるか？
• RQ3 ZX、一般化、自明なプーリングのうち、どの量子プーリング戦略がC2Q転移学習設定で最も統計的に有意な性能向上をもたらすか？
• RQ4 QCNNの性能向上が古典的モデルに対して統計的に有意であるか、これはNISQ時代における潜在的な量子優位性を示唆するか？

主な発見

• 古典的から量子的への転移学習フレームワークは、複数の設定で古典的転移学習モデルを上回る統計的に有意な精度向上を達成し、p値は0.05未満であった。
• 2D CNNと一般化プーリングを用いた8対9分類タスクでは、C2Qモデルがp値0.0002を達成し、強い統計的有意性と古典的ベースラインを上回る精度を示した。
• 1D CNNとZXプーリングを用いた0対1分類タスクでは、C2Qモデルがp値0.0312を達成し、統計的に有意な優位性を示した。
• 2D CNNに一般化プーリングを適用し、パラメータ数76の設定では、8対9タスクでp値0.0002を達成し、複数の学習タスクにわたって一貫した優位性を示した。
• 古典的CNNを特徴抽出器として使用することで、古典的データ次元の低減を回避する成功を収めた。
• 結果は、パrameter制約が同程度の条件下で、C2Q転移学習を経て学習されたQCNNが古典的モデルを上回ることを確認し、NISQデバイスにおける量子優位性への実現可能性のある道筋を示唆している。