[논문 리뷰] Federated Learning with Quantum Secure Aggregation

Yichi Zhang, Chao Zhang외 4명|arXiv (Cornell University)|2022. 07. 09.

Quantum Information and Cryptography인용 수 14

한 줄 요약

이 논문은 양자 얽힘 Greenberger-Horne-Zeilinger (GHZ) 상태를 활용하여 기밀 데이터를 드러내지 않고도 안전하고 효율적으로 국소 모델 파라미터를 집계할 수 있는 양자 기반 보안 집계(QSA) 기법을 제안한다. 이 기법은 반신뢰성 있는 공격자에 대해 완벽한 기밀성을 보장하며, 양자역학을 통해 도청을 즉각적으로 탐지하고, 고전적 및 양자 신경망에서 전반적인 모델 성능을 향상시킨다. 계산 오버헤드는 매우 낮다.

ABSTRACT

This article illustrates a novel Quantum Secure Aggregation (QSA) scheme that is designed to provide highly secure and efficient aggregation of local model parameters for federated learning. The scheme is secure in protecting private model parameters from being disclosed to semi-honest attackers by utilizing quantum bits i.e. qubits to represent model parameters. The proposed security mechanism ensures that any attempts to eavesdrop private model parameters can be immediately detected and stopped. The scheme is also efficient in terms of the low computational complexity of transmitting and aggregating model parameters through entangled qubits. Benefits of the proposed QSA scheme are showcased in a horizontal federated learning setting in which both a centralized and decentralized architectures are taken into account. It was empirically demonstrated that the proposed QSA can be readily applied to aggregate different types of local models including logistic regression (LR), convolutional neural networks (CNN) as well as quantum neural network (QNN), indicating the versatility of the QSA scheme. Performances of global models are improved to various extents with respect to local models obtained by individual participants, while no private model parameters are disclosed to semi-honest adversaries.

연구 동기 및 목표

• 기밀성에 영향을 주지 않으면서 효율성을 해치지 않고 반신뢰성 있는 공격자에 대비한 연합 학습에서 모델 집계를 보호하는 데 핵심적인 과제를 해결하기 위해.
• 증명 가능한 보안과 즉각적인 도청 탐지 기능을 갖춘 양자역학을 활용한 안전한 집계 프로토콜을 개발하기 위해.
• 고전적 및 양자 신경망을 포함한 다양한 기계학습 모델에서 양자 기반 집계의 실현 가능성과 성능 향상을 입증하기 위해.
• 동형 암호화 및 차별적 프라이버시와 같은 고전적 방법에 비해 계산 및 통신 오버헤드를 줄이기 위해.
• 실제 환경에서 기밀성 보장이 필요한 상황에서 실용적인 양자 강화 연합 학습의 기반을 마련하기 위해.

제안 방법

• QSA 기법은 GHZ 얽힘 상태를 사용하여 국소 모델 파라미터를 큐비트로 인코딩하여 양자 채널을 통해 안전하게 전송하고 집계한다.
• 도청 시도가 발생하면 양자 상태가 붕괴되므로 즉각적으로 탐지 가능한 GHZ 상태 기반의 양자 기밀 공유 프로토콜을 적용한다.
• 고정밀도로 전역 모델을 복원하기 위해 약 251회의 반복 측정을 사용하며, 측정 횟수에 대해 선형 복잡도를 유지한다.
• 참가자들의 국소 모델이 양자 상태로 인코딩되어 중앙 집계자에게 전송되며, 이 집계자가 공동 측정을 수행하여 전역 모델을 복구한다.
• 중앙집중형 및 분산형 연합 학습 아키텍처를 모두 지원하여 다양한 배포 환경에 적합하다.
• 고전적 모델(예: 로지스틱 회귀, CNN)과 양자 신경망(QNN) 모두와 호환되어 양자 회로에서 배치 데이터를 병렬 처리할 수 있다.

실험 결과

연구 질문

• RQ1 양자 얽힘을 활용하여 기밀 모델 파라미터를 드러내지 않고도 연합 학습에서 국소 모델을 안전하고 효율적으로 집계할 수 있는가?
• RQ2 QSA 기법은 동형 암호화 및 차별적 프라이버시와 같은 고전적 보안 집계 기법과 비교할 때 보안성과 효율성 면에서 어떻게 다를까?
• RQ3 I.I.D. 및 비I.I.D. 데이터 분포 조건 하에서 QSA는 고전적 모델과 QNN를 포함한 다양한 기계학습 모델에서 전역 모델 성능을 어느 정도 향상시킬 수 있는가?
• RQ4 QSA의 계산 및 통신 오버헤드는 모델 크기와 측정 정확도에 따라 어떻게 변화하며, 스케일링 특성은 어떠한가?
• RQ5 QSA 프로토콜은 실시간으로 도청을 탐지하고 방지할 수 있으며, 반신뢰성 및 바이러스성 공격자에 대해 얼마나 강건한가?

주요 결과

• 제안된 QSA 기법은 완벽한 기밀성을 확보하여 반신뢰성 공격자에게 국소 모델 파라미터에 대한 정보 유출이 불가능하다.
• 양자 얽힘 상태의 붕괴로 인해 도청 시도가 즉각적으로 탐지되어 실시간 보안 보장을 제공한다.
• 로지스틱 회귀, CNN 및 양자 신경망에서 전반적인 모델 성능 향상이 입증되었으며, 특히 국소 데이터셋이 작을 경우 두드러진 성능 향상을 보였다.
• QSA의 총 계산 복잡도는 필요한 측정 횟수(~251)에 비례하여 선형적으로 증가하며, 키 길이가 지수적으로 증가하는 고전적 동형 암호화보다 훨씬 효율적이다.
• 이 프레임워크는 중앙집중형 및 분산형 연합 학습 아키텍처를 모두 지원하여 광범위한 적용 가능성을 지닌다.
• QSA는 양자 채널 기반 공격을 탐지할 수 있지만, 고전적 모델 훼손 공격에는 대응하지 못하므로 전체적인 강건성을 확보하기 위해 Krum과 같은 고전적 바이러스성 저항 기법과 통합하는 것이 권장된다.