[論文レビュー] Quantum Federated Learning with Entanglement Controlled Circuits and Superposition Coding

Won Joon Yun, Jae Pyoung Kim+5 more|arXiv (Cornell University)|Dec 4, 2022

Quantum Computing Algorithms and Architecture被引用数 4

ひとこと要約

本稿では、重ね合わせ符号化されたパラメータ伝送を用いた深さ制御可能でもつれ制御可能な量子ニューラルネットワーク（eSQNN）を活用する、通信効率の高い量子フェデレーテッドラーニング（QFL）フレームワーク、すなわちもつれ制御可能でスリム可能な量子フェデレーテッドラーニング（eSQFL）を提案する。もつれ制御可能ユニバーサルゲートとインプレースの忠実度精錬正則化子を導入することで、高もつれ状態と深さ間干渉による学習不安定性を軽減し、多様なチャネル状態とデータ分布において、通常のQFLと比較して高い精度と収束性を達成する。

ABSTRACT

While witnessing the noisy intermediate-scale quantum (NISQ) era and beyond, quantum federated learning (QFL) has recently become an emerging field of study. In QFL, each quantum computer or device locally trains its quantum neural network (QNN) with trainable gates, and communicates only these gate parameters over classical channels, without costly quantum communications. Towards enabling QFL under various channel conditions, in this article we develop a depth-controllable architecture of entangled slimmable quantum neural networks (eSQNNs), and propose an entangled slimmable QFL (eSQFL) that communicates the superposition-coded parameters of eS-QNNs. Compared to the existing depth-fixed QNNs, training the depth-controllable eSQNN architecture is more challenging due to high entanglement entropy and inter-depth interference, which are mitigated by introducing entanglement controlled universal (CU) gates and an inplace fidelity distillation (IPFD) regularizer penalizing inter-depth quantum state differences, respectively. Furthermore, we optimize the superposition coding power allocation by deriving and minimizing the convergence bound of eSQFL. In an image classification task, extensive simulations corroborate the effectiveness of eSQFL in terms of prediction accuracy, fidelity, and entropy compared to Vanilla QFL as well as under different channel conditions and various data distributions.

研究の動機と目的

• 異種かつ時間変動するチャネル状態下での量子フェデレーテッドラーニング（QFL）における通信非効率性と学習不安定性を解消すること。
• 深さ制御可能量子ニューラルネットワーク（QNN）における高もつれエントロピーと深さ間干渉の課題を克服すること。
• チャネル品質に応じたマルチレベルパラメータ交換をサポートするスケーラブルで通信効率の高いQFLフレームワークを設計すること。
• QFLにおける収束バウンドを最小化するように重ね合わせ符号化のパワー割り当てを最適化すること。

提案手法

• 制御可能ユニバーサル（CU）ゲートによるトレーニング可能なもつれを有する、深さ制御可能なPQCアーキテクチャとしてのもつれ制御可能でスリム可能な量子ニューラルネットワーク（eSQNN）を提案する。
• 深さ間の量子状態の差をペナルティ化し、共同学習中の干渉を低減するため、インプレースの忠実度精錬（IPFD）正則化子を導入する。
• 重ね合わせ符号化を用いてマルチレベルパラメータ伝送を実現し、デバイスが古典チャネルを介して圧縮され重ね合わせ符号化されたQNNパラメータを送信可能にする。
• eSQFLの収束バウンドを導出し、重ね合わせ符号化におけるパワー割り当てを最適化する。
• 収束を保証するため、学習率スケジュールを ηₜ = 2/(μt + 2L - μ) と定義する。これは強い凸性と滑らかさの仮定の下で有効である。
• 理論的分析により、もつれとチャネル分散を含む収束バウンドによって制限される、非線形の誤差減少率 O(1/t) を有するグローバル収束を証明する。

実験結果

リサーチクエスチョン

• RQ1 高もつれエントロピーと深さ間干渉下でも、深さ制御可能量子ニューラルネットワークアーキテクチャを安定して学習可能か？
• RQ2 変動するチャネル状態下で、重ね合わせ符号化を効果的に量子フェデレーテッドラーニングに応用し、マルチレベルパラメータ伝送を可能にする方法は何か？
• RQ3 収束誤差を最小化するための、重ね合わせ符号化QFLパラメータの最適パワー割り当て戦略は何か？
• RQ4 さまざまなデータ分布下で、提案されたeSQFLフレームワークは、通常のQFLと比較して予測精度、忠実度、もつれエントロピーの観点でどのように差をつけるか？
• RQ5 eSQFLの理論的収束バウンドは導出可能であり、最適化可能か？ これにより、異種デバイス間での安定した学習が保証されるか？

主な発見

• eSQFLは、劣悪なチャネル状態下であっても、複数の画像分類タスクにおいて通常のQFLよりも高い予測精度を達成する。
• 提案されたeSQNNアーキテクチャはIPFD正則化子により深さ間干渉を低減し、学習の安定性と収束性を向上させる。
• 重ね合わせ符号化により、効率的でマルチレベルのパラメータ交換が可能となり、通信オーバーヘッドを低減しながら高いモデル忠実度を維持する。
• 最適化されたパワー割り当てにより、eSQFLの収束バウンドが最小化され、収束速度が向上し、誤差率が低下する。
• 広範なシミュレーションにより、eSQFLはさまざまなデータ分布およびチャネル状態下でも高い忠実度と低いもつれエントロピーを維持することが確認された。
• eSQFLの理論的収束速度は O(1/t) であり、最適モデルパラメータからの距離の非線形減少を示している。