[論文レビュー] Classical-to-Quantum Transfer Learning for Spoken Command Recognition Based on Quantum Neural Networks

Jun Qi, Javier Tejedor|arXiv (Cornell University)|Oct 17, 2021

Quantum Computing Algorithms and Architecture被引用数 12

ひとこと要約

本論文は、1次元畳み込みニューラルネットワーク（1D CNN）と変分量子回路（VQC）を統合したハイブリッド古典的から量子的への転移学習フレームワークを提案する。事前学習された古典的特徴量が量子部に転送され、NISQデバイス上で効率的なファインチューニングが可能となる。シミュレーションの結果、本手法は0.00096 MBのパラメータで94.58%の精度を達成し、ベースラインのCNN-QNNを上回り、古典的CNN-DNN性能に近い水準に達するが、量子パラメータは極めて少ない。

ABSTRACT

This work investigates an extension of transfer learning applied in machine learning algorithms to the emerging hybrid end-to-end quantum neural network (QNN) for spoken command recognition (SCR). Our QNN-based SCR system is composed of classical and quantum components: (1) the classical part mainly relies on a 1D convolutional neural network (CNN) to extract speech features; (2) the quantum part is built upon the variational quantum circuit with a few learnable parameters. Since it is inefficient to train the hybrid end-to-end QNN from scratch on a noisy intermediate-scale quantum (NISQ) device, we put forth a hybrid transfer learning algorithm that allows a pre-trained classical network to be transferred to the classical part of the hybrid QNN model. The pre-trained classical network is further modified and augmented through jointly fine-tuning with a variational quantum circuit (VQC). The hybrid transfer learning methodology is particularly attractive for the task of QNN-based SCR because low-dimensional classical features are expected to be encoded into quantum states. We assess the hybrid transfer learning algorithm applied to the hybrid classical-quantum QNN for SCR on the Google speech command dataset, and our classical simulation results suggest that the hybrid transfer learning can boost our baseline performance on the SCR task.

研究の動機と目的

• ノイズのある中規模量子（NISQ）デバイス上で、エンドツーエンドのハイブリッド古典的・量子ニューラルネットワークを初期から訓練する際の非効率性に対処すること。
• 事前学習された古典的モデルが、発話コマンド認識（SCR）における量子ニューラルネットワークの性能を向上させられるかどうかを検討すること。
• 古典的特徴抽出ネットワークを活用して、ハイブリッドCNN-QNNモデルの古典的コンポONENTを初期化する転移学習戦略を開発すること。
• ノイズのない状態とノイズのある量子回路条件の両方で、ハイブリッド転移学習アプローチのロバスト性と有効性を評価すること。

提案手法

• 1次元畳み込みニューラルネットワーク（1D CNN）が古典的音声特徴を抽出し、変分量子回路（VQC）が量子状態を用いて分類を実行するハイブリッドCNN-QNNアーキテクチャを設計する。
• 古典的CNNコンポONENTは、事前学習済みのCNN-DNNモデルを用いて初期化され、完全に再学習する必要が低減される。
• 2つの転移学習バリエーションを実装する：CNN-QNN_2はCNNを固定し、VQCパラメータのみをファインチューニングする。CNN-QNN_3はCNNとVQCの両方のコンポonentを共同でファインチューニングする。
• 量子状態符号化により、低次元の古典的特徴量が8本のチャネル線と4回の繰り返しVQCレイヤーを介して量子埋め込みに変換され、合計96のトレーニング可能なパラメータが得られる。
• シミュレーションは、Google Speech Commandsデータセットを用い、Pennylane-Qiskitを介して実際のIBM Q 20量子ビットデバイスのノイズプロファイルを模倣したノイズのないおよびノイズのある量子回路で実施される。
• モデルのパフォーマンスは、テストセットにおける交差エントロピー損失と分類精度を用いて評価され、古典的ベースラインおよび先行のQNNモデルと比較される。

Fig. 1 : A framework of quantum neural network. $R_{X}(\cdot)$ , $R_{Y}(\cdot)$ , $R_{Z}(\cdot)$ separately denote Pauli rotation X, Y, Z gates. The circuits in the dash square correspond to the learnable model with the repeated copies.

実験結果

リサーチクエスチョン

• RQ1 事前学習された古典的ディープラーニングモデルは、発話コマンド認識を目的としたハイブリッド古典的・量子ニューラルネットワークの古典的コンポonentを初期化するために効果的に転送可能か？
• RQ2 ハイブリッド古典的から量子的への転移学習は、エンドツーエンドでハイブリッドCNN-QNNを初期から訓練するのと比較して、分類精度を向上させるとともにモデルの複雑さを低減できるか？
• RQ3 NISQデバイスに一般的なノイズのある量子回路条件下で、ハイブリッド転移学習フレームワークのパフォーマンスはどのようにスケーリングするか？
• RQ4 提案手法は、古典的DNNベースラインと比較して著しく少ないパラメータで競争力のあるパフォーマンスを達成できるか？

主な発見

• CNN-QNN_2モデル（事前学習済みCNNを固定し、VQCのみをファインチューニング）は、たった0.00096 MBのパラメータで94.58%のテスト精度を達成し、古典的CNN-DNN（94.42%精度）をわずかに上回りながらも、パラメータ数は著しく少ない。
• ノイズのない条件下で、CNN-QNN_3モデル（CNNとVQCの両方を共同でファインチューニング）は94.87%の最高テスト精度を達成し、全パラメータ最適化の利点を示している。
• ノイズのある量子回路では、CNN-QNN_2モデルが93.38%の精度と0.274の交差エントロピー損失を維持し、古典的CNN-DNNベースライン（94.42%精度、0.251損失）と比較して競争力を持つ。
• CNN-QNN_3モデルはノイズ条件下でも93.84%の精度を達成し、共同ファインチューニングがノイズにもかかわらずパフォーマンスを保持できることを示しているが、古典的ベースラインを上回ることはなかった。
• ハイブリッド転移学習アプローチは、量子コンポonentのトレーニング可能なパラメータ数を顕著に削減しながらも、分類パフォーマンスを維持または向上させていることから、NISQ時代の量子機械学習において高い効率性を示している。
• 結果から、将来的な誤り耐性を持つ量子コンピュータが、特にCNN-QNN_3のような古典的および量子コンポonentを共同で最適化するモデルにおいて、ハイブリッド転移学習フレームワークのパフォーマンスをさらに向上させられると示唆される。

Fig. 2 : Unitary matrices of the quantum gates.