[论文解读] Towards Privacy-Preserving Medical Imaging: Federated Learning with Differential Privacy and Secure Aggregation Using a Modified ResNet Architecture

M. Fares, Ahmed Mohamed Saad Emam Saad|arXiv (Cornell University)|Dec 1, 2024

Privacy-Preserving Technologies in Data被引用 5

一句话总结

本文提出一个用于医学影像的隐私保护联邦学习框架，结合本地差分隐私、基于安全多方计算的安全聚合，以及 DP 优化的 ResNet (DPResNet)，在 BloodMNIST 上对多家医院的非IID数据进行评估。

ABSTRACT

With increasing concerns over privacy in healthcare, especially for sensitive medical data, this research introduces a federated learning framework that combines local differential privacy and secure aggregation using Secure Multi-Party Computation for medical image classification. Further, we propose DPResNet, a modified ResNet architecture optimized for differential privacy. Leveraging the BloodMNIST benchmark dataset, we simulate a realistic data-sharing environment across different hospitals, addressing the distinct privacy challenges posed by federated healthcare data. Experimental results indicate that our privacy-preserving federated model achieves accuracy levels close to non-private models, surpassing traditional approaches while maintaining strict data confidentiality. By enhancing the privacy, efficiency, and reliability of healthcare data management, our approach offers substantial benefits to patients, healthcare providers, and the broader healthcare ecosystem.

研究动机与目标

• 引发对医学影像隐私的关注，并在不共享原始数据的情况下实现协作式学习。
• 开发一个将差分隐私与安全聚合集成用于医学影像分类的联邦学习框架。
• 设计并评估面向隐私保护场景的 DP 优化 ResNet 架构（DPResNet）。
• 使用 BloodMNIST 模拟现实的多机构数据共享，以评估隐私-效用权衡。

提出的方法

• 将 Federated Averaging (FedAvg) 与本地差分隐私和梯度裁剪相结合，然后对更新加入高斯噪声。
• 应用基于安全多方计算的安全聚合（SecAgg）对 DP 保护的更新进行私有聚合。
• 提出 DPResNet，一种对 ResNet-9 的修改架构，使用 GroupNormalization 且移除最大池化以提升与 DP 的兼容性。
• 在 BloodMNIST 上对框架进行评估，采用 5–10–20 客户端的非 IID 划分，固定裁剪范数 C=7 与 DP 预算（ε=6.0, δ=1.9e-4）。
• 使用 SecAgg+，重建阈值为四份，以处理客户端掉线并保持鲁棒性。

实验结果

研究问题

• RQ1 在提供强隐私保障的同时，隐私保护的联邦学习框架是否能在医学影像中达到具有竞争力的精度？
• RQ2 在非 IID 医院数据下，将差分隐私与安全聚合结合对模型性能有何影响？
• RQ3 在联邦、隐私保护设定下，DPResNet 架构是否比标准 ResNet 提升性能和隐私兼容性？
• RQ4 在现实的 BloodMNIST 模拟中，隐私预算参数与模型准确性之间存在何种权衡？
• RQ5 在隐私保护约束下，该框架在准确性方面与 PriMIA 与 FEDMIC 相比表现如何？

主要发现

数据集	方法	客户端规模	DP-/SecAgg-	DP-/SecAgg+	DP+/SecAgg+
BloodMNIST	Ours	10	98.76	98.11	97.78
BloodMNIST	Ours	20	97.77	97.01	96.89
PriMIA [ 10 ]	10	90.00	89.00	85.00
FEDMIC [ 23 ]	20	–	–	96.33

• 隐私保护的 FL 框架在 DP 与 SecAgg 条件下的准确性接近非私有模型，从而具有竞争力（例如 BloodMNIST 10 个客户端在 DP-/SecAgg+ 下达到 98.11，在 DP+/SecAgg+ 下达到 97.78）。
• 在 20 个客户端的情况下，DP-/SecAgg+ 获得 97.01 的准确度，DP+/SecAgg+ 获得 96.89，体现隐私-效用权衡。
• 与 PriMIA 相比，在类似隐私设置下，所提出的方法获得更高的准确性（PriMIA：[ 10 ]，10 客户端在 89.00–90.00 之间）。
• 在 20 客户端设置下，FEDMIC 在 DP+/SecAgg+ 下达到 96.33，显示出对隐私保护基线的竞争性能。
• DPResNet 架构（GroupNormalization、去除最大池化）有助于在 DP-FL 中获得更好的隐私-效用平衡。
• 该框架展示出对多机构医学影像任务适用的鲁棒安全聚合与隐私保障。