[論文レビュー] QuantumFed: A Federated Learning Framework for Collaborative Quantum Training

Qi Xia, Qun Li|arXiv (Cornell University)|Jun 16, 2021

Quantum Computing Algorithms and Architecture被引用数 5

ひとこと要約

QuantumFed は、プライベートな量子データを共有せずに、複数の量子ノードが共同でグローバルな量子ニューラルネットワークをトレーニングできるフェデレーテッドラーニングフレームワークである。ノイズが多いデータが最大70％でも高い忠実度と頑健な性能を達成しており、分散量子機械学習における実現可能性と耐性を示している。

ABSTRACT

With the fast development of quantum computing and deep learning, quantum neural networks have attracted great attention recently. By leveraging the power of quantum computing, deep neural networks can potentially overcome computational power limitations in classic machine learning. However, when multiple quantum machines wish to train a global model using the local data on each machine, it may be very difficult to copy the data into one machine and train the model. Therefore, a collaborative quantum neural network framework is necessary. In this article, we borrow the core idea of federated learning to propose QuantumFed, a quantum federated learning framework to have multiple quantum nodes with local quantum data train a mode together. Our experiments show the feasibility and robustness of our framework.

研究の動機と目的

• プライバシー的または技術的制約により、量子データが中央に集約できない状況下で、複数の量子デバイスに分散されたデータからグローバルな量子ニューラルネットワークをトレーニングする課題に対処すること。
• フェデレーテッドラーニングの原則を量子機械学習に適応させ、データの局所性とプライバシーを保ちながら共同トレーニングを可能にすること。
• 非独立同分布（non-iid）データやノイズのあるデータを含む現実的な条件下で、量子フェデレーテッドラーニングフレームワークの実現可能性と頑健性を評価すること。
• 量子ニューラルネットワークが、量子フェデレーテッドラーニングを用いて分散的・共同的に効果的にトレーニング可能であることを示すこと。

提案手法

• 各量子ノードが自身のプライベートな量子データを用いてローカルモデルをトレーニングし、中央サーバーに送信するのはモデル更新（ユニタリ変換）のみである、量子フェデレーテッドラーニングフレームワーク QuantumFed を提案する。
• レイヤー単位のユニタリ操作と部分トレースを用いた量子ニューラルネットワークアーキテクチャを採用し、グローバルモデルのエンドツーエンドトレーニングを可能にする。
• モデル性能の評価に、忠実度ベースの損失関数と平均二乗誤差（MSE）を用い、トレーニングデータおよびテストデータ上で性能を評価する。
• 入力ベクトルの類似度に基づいて非独立同分布（non-i.i.d.）のトレーニングデータをノードに分散させることで、異種のフェデレーテッド環境をシミュレートする。
• 収束を評価するために、調整可能なローカル更新間隔を有する確率的勾配降下法（SGD）とフルバッチ勾配降下法（GD）の両方を適用する。
• トレーニングデータの一部をランダムな入出力ペアに置き換えることで、制御されたノイズを導入し、データ汚染下での耐性をテストする。

実験結果

リサーチクエスチョン

• RQ1 原始的な量子データを中央に集約せずに、分散量子環境においてグローバルな量子ニューラルネットワークを効果的にトレーニングできるか？
• RQ2 通信ラウンドごとのローカルトレーニングステップ数が、量子フェデレーテッドラーニングにおける収束と性能にどのように影響するか？
• RQ3 QuantumFedフレームワークは、ノイズや汚染されたトレーニングデータに対してどの程度耐性を示し、モデルの精度を維持できるか？
• RQ4 フレームワークは、SGD と GD の両方の最適化戦略を同等の性能でサポートするか？

主な発見

• QuantumFed フレームワークは、複数のノード上でグローバルな量子ニューラルネットワークを効果的にトレーニングでき、50回のトレーニングイテレーション後に忠実度が約 1.0、MSE が約 0.0 に達した。
• 通信ラウンドごとのローカルトレーニングステップ数を増やすことで、収束速度と最終的なモデル性能が向上し、より深いローカル最適化の利点が示された。
• ノイズのあるトレーニングデータが最大70％まででも、妥当な性能を維持でき、ノイズ比が50％未満であれば最終性能にほとんど差がなかった。これは、強い耐性を示している。
• SGD と GD の両方の最適化戦略が類似した性能に収束したため、フレームワークが異なる最適化パラダイムと互換性を持つことが確認された。
• シミュレーション結果により、ノード間で非独立同分布（non-iid）のデータ分布がある状況下でも、フェデレーテッド環境における共同量子トレーニングの実現可能性が裏付けられた。
• 忠実度と MSE の指標の使用により、訓練済みモデルがクリーンなテストデータおよびノイズのあるテストデータの両方で、ターゲットのユニタリ変換を正確に近似できていることが確認された。