[论文解读] Slimmable Quantum Federated Learning

Won Joon Yun, Jae Pyoung Kim+4 more|arXiv (Cornell University)|Jul 20, 2022

Neural Networks and Reservoir Computing被引用 9

一句话总结

本文提出Slimmable Quantum Federated Learning（SlimQFL），一种动态量子联邦学习框架，通过分别训练和传输量子神经网络（QNNs）的角度参数和极点参数，以适应时变信道条件和能量约束。通过实现部分参数传输——尤其是仅传输极点参数——SlimQFL在较差信道条件下相比Vanilla QFL实现了11.7%更高的准确率，证明了其在资源受限的量子边缘环境中的鲁棒性与适应性。

ABSTRACT

Quantum federated learning (QFL) has recently received increasing attention, where quantum neural networks (QNNs) are integrated into federated learning (FL). In contrast to the existing static QFL methods, we propose slimmable QFL (SlimQFL) in this article, which is a dynamic QFL framework that can cope with time-varying communication channels and computing energy limitations. This is made viable by leveraging the unique nature of a QNN where its angle parameters and pole parameters can be separately trained and dynamically exploited. Simulation results corroborate that SlimQFL achieves higher classification accuracy than Vanilla QFL, particularly under poor channel conditions on average.

研究动机与目标

• 解决静态量子联邦学习（QFL）在通信质量波动和能量约束动态环境中所面临的局限性。
• 利用量子神经网络（QNNs）的二元结构特性，即角度参数和极点参数可独立训练与传输。
• 设计一种可裁剪的QFL框架，在信道条件较差时仅传输关键参数（如极点参数），以维持模型性能。
• 验证仅极点参数训练与传输在降低通信开销的同时仍能保持分类准确性的有效性。
• 证明通过利用量子特有参数动态特性，量子联邦学习可在准确率上超越经典联邦学习。

提出的方法

• 提出一种量子SNN（QSNN）架构，将QNN参数划分为可训练的角度参数（PQC）和极点参数（测量基），支持独立优化。
• 采用两阶段本地训练流程：先优化极点参数，再优化角度参数，以支持动态通信策略。
• 按通信轮次动态选择传输模式：在良好信道中传输完整参数（角度+极点），在较差信道中仅传输极点参数（负载减少7倍）。
• 采用FedAvg风格的全局模型聚合机制，服务器对本地QSNN进行平均以形成全局模型，并重新分发给客户端。
• 在QNN训练中应用参数偏移规则进行梯度计算，确保与现有量子机器学习流水线的兼容性。
• 采用信道自适应传输策略：若信道质量低于阈值，则仅传输极点参数，以减少能量与带宽消耗。

实验结果

研究问题

• RQ1 在通信条件较差时，仅传输极点参数的动态QFL框架能否维持高分类准确率？
• RQ2 对QNN中极点与角度参数分别进行训练，是否能提升对时变信道质量与能量约束的适应能力？
• RQ3 在不同信噪比（SNR）条件下，SlimQFL与Vanilla QFL及经典FL的性能表现如何比较？
• RQ4 仅极点参数训练对模型准确率有何影响？其是否证明了轻量化量子模型更新的可行性？
• RQ5 当利用量子特有参数动态特性时，量子联邦学习能否在准确率上超越经典FL？

主要发现

• 在SNR = -20 dB的恶劣信道条件下，SlimQFL在MNIST数据集上相比Vanilla QFL实现11.7%更高的分类准确率，证明其具备更强鲁棒性。
• 即使仅传输极点参数（负载减少7倍），SlimQFL-Pole仍保持稳定的学习曲线并随时间推移提升准确率，证明极小参数更新的可行性。
• 在良好信道条件（SNR = -40 dB）下，所有方案均达到高准确率，但SlimQFL表现最佳，尤其在20个设备场景下优势显著。
• 本地迭代次数与SlimQFL中的准确率呈正相关，与经典FedAvg趋势相反，表明QSNN在更高本地更新下具备更稳定的训练能力。
• 批量大小的影响不一致：8的批量大小取得最高准确率，而16的批量大小准确率最低，表明在此设置下批量大小与模型性能之间无一致关联。
• 所提框架在良好信道条件下，Top-1准确率均优于Vanilla QFL与经典FL，证实了量子计算在联邦学习场景中的优势。