[论文解读] QuantumFed: A Federated Learning Framework for Collaborative Quantum Training

Qi Xia, Qun Li|arXiv (Cornell University)|Jun 16, 2021

Quantum Computing Algorithms and Architecture被引用 5

一句话总结

QuantumFed 是一种联邦学习框架，允许多个量子节点在不共享原始数据的情况下，通过本地量子数据协作训练全局量子神经网络。即使在高达 70% 的噪声数据下，该框架仍能实现高保真度和稳健性能，展示了在分布式量子机器学习中的可行性与鲁棒性。

ABSTRACT

With the fast development of quantum computing and deep learning, quantum neural networks have attracted great attention recently. By leveraging the power of quantum computing, deep neural networks can potentially overcome computational power limitations in classic machine learning. However, when multiple quantum machines wish to train a global model using the local data on each machine, it may be very difficult to copy the data into one machine and train the model. Therefore, a collaborative quantum neural network framework is necessary. In this article, we borrow the core idea of federated learning to propose QuantumFed, a quantum federated learning framework to have multiple quantum nodes with local quantum data train a mode together. Our experiments show the feasibility and robustness of our framework.

研究动机与目标

• 解决当数据分布在多个量子设备上且由于隐私或技术限制无法集中聚合时，训练全局量子神经网络的挑战。
• 将联邦学习原则适配至量子机器学习，实现在保护数据本地性和隐私的前提下协同训练。
• 在包含非独立同分布数据和噪声数据的真实条件下，评估量子联邦学习框架的可行性和鲁棒性。
• 证明量子神经网络可通过量子联邦学习以分布式协同方式被有效训练。

提出的方法

• 提出 QuantumFed，一种量子联邦学习框架，其中每个量子节点使用其私有量子数据训练本地模型，并仅将模型更新（幺正矩阵）发送至中心服务器。
• 采用具有分层幺正操作和部分迹运算的量子神经网络架构，以计算各层输出，实现全局模型的端到端训练。
• 使用基于保真度的损失函数和均方误差（MSE）作为评估指标，以衡量模型在训练数据和测试数据上的性能。
• 通过基于输入向量相似性的方法，将非独立同分布的训练数据分布在各节点上，模拟异构联邦环境。
• 采用随机梯度下降（SGD）和全批量梯度下降（GD）优化方法，并调整本地更新间隔，以评估收敛性。
• 通过用随机输入-输出对替换部分训练数据，引入可控噪声，以测试在数据污染下的鲁棒性。

实验结果

研究问题

• RQ1 在不集中原始量子数据的情况下，是否能有效在分布式量子环境中训练全局量子神经网络？
• RQ2 每轮通信中本地训练步数的增加如何影响量子联邦学习中的收敛性和性能？
• RQ3 QuantumFed 框架在多大程度上能容忍噪声或被污染的训练数据，同时保持模型准确率？
• RQ4 该框架是否支持 SGD 和 GD 优化策略，并在量子神经网络训练中实现相当的性能？

主要发现

• QuantumFed 框架成功在多个节点上训练了全局量子神经网络，在 50 次训练迭代后，保真度达到约 1.0，MSE 约为 0.0。
• 每轮通信中增加本地训练步数可提升收敛速度和最终模型性能，表明深度本地优化具有显著优势。
• 该框架在高达 70% 的噪声训练数据下仍能保持可接受的性能，且当噪声比例低于 50% 时，最终性能基本不变，显示出强大的鲁棒性。
• SGD 和 GD 两种优化策略均收敛至相似的性能水平，证实了该框架与不同优化范式具有良好的兼容性。
• 模拟结果验证了在节点间存在非独立同分布数据分布的情况下，联邦设置下协同量子训练的可行性。
• 使用保真度和 MSE 指标确认，训练后的模型在干净和噪声测试数据上均能准确逼近目标幺正变换。