[論文レビュー] Federated Learning with Quantum Secure Aggregation

Yichi Zhang, Chao Zhang+4 more|arXiv (Cornell University)|Jul 9, 2022

Quantum Information and Cryptography被引用数 14

ひとこと要約

本論文は、エンタングルド・グリーンバーガー＝ホーン＝ツァイリング（GHZ）状態を活用して、個人情報が漏洩しない形で、安全かつ効率的にローカルモデルパラメータを集約する量子セキュアアグリゲーション（QSA）方式を提案する。この方式は、準正直な攻撃者に対して完全な機密性を保証し、量子力学的手法により盗聴を即座に検出可能であり、計算コストが低く抑えられることで、古典的および量子ニューラルネットワークにおけるグローバルモデルの性能が向上する。

ABSTRACT

This article illustrates a novel Quantum Secure Aggregation (QSA) scheme that is designed to provide highly secure and efficient aggregation of local model parameters for federated learning. The scheme is secure in protecting private model parameters from being disclosed to semi-honest attackers by utilizing quantum bits i.e. qubits to represent model parameters. The proposed security mechanism ensures that any attempts to eavesdrop private model parameters can be immediately detected and stopped. The scheme is also efficient in terms of the low computational complexity of transmitting and aggregating model parameters through entangled qubits. Benefits of the proposed QSA scheme are showcased in a horizontal federated learning setting in which both a centralized and decentralized architectures are taken into account. It was empirically demonstrated that the proposed QSA can be readily applied to aggregate different types of local models including logistic regression (LR), convolutional neural networks (CNN) as well as quantum neural network (QNN), indicating the versatility of the QSA scheme. Performances of global models are improved to various extents with respect to local models obtained by individual participants, while no private model parameters are disclosed to semi-honest adversaries.

研究の動機と目的

• セキュアなモデル集約を、効率性を損なうことなく、準正直な攻撃者に対して実現するという、フェデレーテッドラーニングにおける重要な課題に取り組むこと。
• 証明可能なセキュリティと即時の盗聴検出を実現するため、量子力学を活用した安全な集約プロトコルを開発すること。
• 古典的および量子ニューラルネットワークを含む多様な機械学習モデルにおいて、量子ベースの集約の実現可能性と性能向上の利点を実証すること。
• 同型暗号や微分プライバシーといった古典的手法と比較して、計算および通信のオーバーヘッドを低減すること。
• 実世界のプライバシー保護要件を満たす実用的な量子強化フェデレーテッドラーニングの基盤を構築すること。

提案手法

• QSA方式は、GHZエンタングルド状態を用いてローカルモデルパラメータをキュービットに符号化し、量子チャネルを介して安全に送信・集約可能とする。
• エンタングルド状態の崩壊を活用した量子秘密分散プロトコルを採用することで、盗聴の試みが即座に検出可能となる。
• 高い精度でグローバルモデルを再構築するために、約251回の繰り返し測定を実施し、測定回数に対して線形の計算複雑度を維持する。
• 参加者のローカルモデルが量子状態に符号化され、中央のアグリゲータに送信され、ジョイント測定が実行されてグローバルモデルが回復される。
• 中央集権的および分散型のフェデレーテッドラーニングアーキテクチャを両方サポートしており、柔軟な展開が可能である。
• 古典的モデル（例：ロジスティック回帰、CNN）および量子ニューラルネットワーク（QNN）と互換性があり、量子回路上でバッチデータを並列処理可能である。

実験結果

リサーチクエスチョン

• RQ1 量子もつれを用いることで、個人情報の漏洩を防ぎつつ、フェデレーテッドラーニングにおけるローカルモデルの安全かつ効率的な集約が可能になるか？
• RQ2 同型暗号や微分プライバシーといった古典的手法と比較して、提案されたQSA方式は、セキュリティと効率性の面でどのように異なるか？
• RQ3 I.I.D.および非I.I.D.のデータ分布下でも、QSAは多様な機械学習モデル（QNNを含む）のグローバルモデル性能をどの程度向上できるか？
• RQ4 QSAの計算および通信のオーバーヘッドはどの程度で、モデルサイズや測定精度の変化に伴いどのようにスケーリングされるか？
• RQ5 QSAプロトコルはリアルタイムで盗聴を検出・防止可能であり、準正直およびビザンチン攻撃に対してどの程度の耐性を示すか？

主な発見

• 提案されたQSA方式は完全な機密性を達成しており、準正直な攻撃者によるローカルモデルパラメータに関する情報漏洩が不可能である。
• 盗聴の試みが、エンタングルド量子状態の崩壊によって即座に検出可能であり、リアルタイムのセキュリティ保証が得られる。
• ロジスティック回帰、CNN、および量子ニューラルネットワークにおいて、特にローカルデータセットが小さい場合に、グローバルモデルの性能が向上している。
• QSAの総合的計算複雑度は、必要な測定回数（約251）に比例して線形に増加するが、同型暗号と比較して鍵長の指数関数的増加に比べてはるかに効率的である。
• フレームワークは多様性に富んでおり、中央集権的および分散型のフェデレーテッドラーニングアーキテクチャを両方サポートしており、広範な適用性を有する。
• QSAは量子チャネルを介した攻撃を検出可能であるが、古典的モデルの汚染（poisoning）には保護しない。したがって、完全な耐性を確保するには、Krumなどの古典的ビザンチン耐性手法と統合することが推奨される。