[논문 리뷰] Quantum Federated Learning with Entanglement Controlled Circuits and Superposition Coding

Won Joon Yun, Jae Pyoung Kim외 5명|arXiv (Cornell University)|2022. 12. 04.

Quantum Computing Algorithms and Architecture인용 수 4

한 줄 요약

이 논문은 초전파된 슬림 가능 양자 피어드 페더레이티드 러닝(eSQFL)을 제안한다. 이는 양자 피어드 페더레이티드 러닝(QFL)의 통신 비효율성을 해결하기 위해 깊이 제어 가능하고 얽힌 양자 신경망(eSQNN)을 사용하며, 초위치 코딩된 파rameter 전송 방식을 적용한 통신 효율적인 프레임워크이다. 엔트랑글먼트 제어 가능한 유니버설 게이트와 인라인 허모니티 딜리션 정규화 기법을 도입함으로써, 높은 얽힘과 다중 깊이 간 간섭으로 인한 학습 불안정성을 완화하여, 다양한 채널 조건과 데이터 분포에서 기존 QFL 대비 더 높은 정확도와 수렴 성능을 달성한다.

ABSTRACT

While witnessing the noisy intermediate-scale quantum (NISQ) era and beyond, quantum federated learning (QFL) has recently become an emerging field of study. In QFL, each quantum computer or device locally trains its quantum neural network (QNN) with trainable gates, and communicates only these gate parameters over classical channels, without costly quantum communications. Towards enabling QFL under various channel conditions, in this article we develop a depth-controllable architecture of entangled slimmable quantum neural networks (eSQNNs), and propose an entangled slimmable QFL (eSQFL) that communicates the superposition-coded parameters of eS-QNNs. Compared to the existing depth-fixed QNNs, training the depth-controllable eSQNN architecture is more challenging due to high entanglement entropy and inter-depth interference, which are mitigated by introducing entanglement controlled universal (CU) gates and an inplace fidelity distillation (IPFD) regularizer penalizing inter-depth quantum state differences, respectively. Furthermore, we optimize the superposition coding power allocation by deriving and minimizing the convergence bound of eSQFL. In an image classification task, extensive simulations corroborate the effectiveness of eSQFL in terms of prediction accuracy, fidelity, and entropy compared to Vanilla QFL as well as under different channel conditions and various data distributions.

연구 동기 및 목표

• 이질적이고 시간에 따라 변하는 채널 조건 하에서 양자 피어드 페더레이티드 러닝(QFL)의 통신 비효율성과 학습 불안정성을 해결하기 위해.
• 깊이 제어 가능한 양자 신경망(QNN)에서 높은 엔트랑글먼트 엔트로피와 다중 깊이 간 간섭 문제를 극복하기 위해.
• 채널 품질에 따라 다중 수준 파rameter 교환을 지원하는 확장 가능한 통신 효율적인 QFL 프레임워크를 설계하기 위해.
• QFL에서 수렴 한계를 최소화하기 위해 초위치 코딩의 파워 할당을 최적화하기 위해.

제안 방법

• 제어 가능한 유니버설(CU) 게이트를 통해 학습 가능한 엔트랑글먼트를 갖춘 깊이 제어 가능한 PQC 아키텍처인 엔트랑글먼트 슬림 가능 양자 신경망(eSQNN)을 제안한다.
• 공동 학습 중 간섭을 줄이고 다중 깊이 양자 상태 간 차이를 방지하기 위해 인라인 허모니티 딜리션(IPFD) 정규화 기법을 도입한다.
• 다중 수준 파rameter 전송을 가능하게 하여 장치들이 고전적 채널을 통해 압축되고 초위치 코딩된 QNN 파rameter를 전송할 수 있도록 초위치 코딩을 활용한다.
• eSQFL의 수렴 한계를 유도하고 최소화하여 초위치 코딩의 파워 할당을 최적화한다.
• 강한 볼록성과 매끄러움 가정 하에서 수렴을 보장하기 위해 학습률 스케줄링을 ηₜ = 2/(μt + 2L - μ)로 설정한다.
• 이론적 분석을 통해 엔트랑글먼트와 채널 분산을 포함한 수렴 한계에 의해 제한되는 하위선형 오차 감쇠율 O(1/t)을 갖는 전역 수렴을 증명한다.

실험 결과

연구 질문

• RQ1 높은 엔트랑글먼트 엔트로피와 다중 깊이 간 간섭 조건 하에서도 깊이 제어 가능한 양자 신경망 아키텍처를 안정적으로 학습시킬 수 있는가?
• RQ2 다양한 채널 조건 하에서 초위치 코딩을 효과적으로 적용하여 QFL에서 다중 수준 파rameter 전송을 가능하게 할 수 있는가?
• RQ3 초위치 코딩된 QFL 파rameter의 최적 파워 할당 전략은 수렴 오차를 최소화하기 위해 무엇인가?
• RQ4 다양한 데이터 분포 하에서 제안된 eSQFL 프레임워크는 기존 QFL 대비 예측 정확도, 허모니티, 엔트랑글먼트 엔트로피 측면에서 어떻게 비교되는가?
• RQ5 eSQFL의 이론적 수렴 한계를 도출하고 최소화하여 이질적인 기기 간에서 안정적인 학습을 보장할 수 있는가?

주요 결과

• eSQFL은 열악한 채널 조건 하에서도 여러 이미지 분류 작업에서 기존 QFL 대비 더 높은 예측 정확도를 달성한다.
• 제안된 eSQNN 아키텍처는 IPFD 정규화 기법을 통해 다중 깊이 간 간섭을 감소시켜 학습 안정성과 수렴 성능을 향상시킨다.
• 초위치 코딩은 효율적인 다중 수준 파rameter 교환을 가능하게 하여 통신 오버헤드를 줄이고 높은 모델 허모니티를 유지한다.
• 최적의 파워 할당을 통해 eSQFL의 수렴 한계가 최소화되어 더 빠른 수렴과 낮은 오차율을 달성한다.
• 광범위한 시뮬레이션을 통해 eSQFL은 다양한 데이터 분포와 채널 조건 하에서도 높은 허모니티와 낮은 엔트랑글먼트 엔트로피를 유지함을 확인했다.
• eSQFL의 이론적 수렴 속도는 O(1/t)이며, 최적 모델 파arameter와의 거리가 하위선형으로 감쇠됨을 보여준다.