[论文解读] Digital Healthcare in The Metaverse: Insights into Privacy and Security

Mehdi Letafati, Safa Otoum|arXiv (Cornell University)|Jul 22, 2023

Privacy-Preserving Technologies in Data被引用 5

一句话总结

本文提出了一种用于元宇宙数字医疗中隐私保护联邦学习的分布式差分隐私（DDP）框架，其中虚拟诊所会在共享前使用自适应噪声对其本地医疗模型更新进行扰动。在乳腺癌威斯康星数据集上的评估显示，该方法实现了隐私-效用权衡，最优准确率出现在ε = 28–30（相较于ε = 50），表明当使用20家参与诊所时，可在不牺牲诊断性能的前提下实现更强的隐私保护。

ABSTRACT

In this article, we study the privacy and security aspects of the metaverse in the context of digital healthcare. Our studies include the security aspects of data collection and communications for access to the metaverse, the privacy and security threats of employing Machine Learning and Artificial Intelligence (AI/ML) algorithms for metaverse healthcare, and the privacy of social interactions among patients in the metaverse from a human-centric perspective. In this article, we aim to provide new perspectives and less-investigated solutions, which are shown to be promising mechanisms in the context of wireless communications and computer science and can be considered novel solutions to be applied to healthcare metaverse services. Topics include physical layer security (PHYSec), Semantic Metaverse Communications (SMC), Differential Privacy (DP), and Adversarial Machine Learning (AML). As a case study, we propose distributed differential privacy for the metaverse healthcare systems, where each virtual clinic perturbs its medical model vector to enhance privacy against malicious actors and curious servers. Through our experiments on the Breast Cancer Wisconsin Dataset (BCWD), we highlight the privacy-utility trade-off for different adjustable levels of privacy.

研究动机与目标

• 为解决元宇宙数字医疗中的隐私与安全风险，特别是数据收集、人工智能/机器学习模型共享以及社交互动中的风险。
• 探索在元宇宙医疗环境中尚未充分研究的隐私保护技术，如物理层安全、语义通信和对抗性机器学习。
• 提出并评估一种新颖的、可调节的隐私机制——分布式差分隐私，用于虚拟临床环境中的联邦学习。
• 证明在保持诊断效用的同时，实现分布式医疗人工智能系统正式隐私保证的可行性。

提出的方法

• 采用分布式差分隐私（DDP）在每个虚拟诊所对本地模型向量进行扰动，再共享至中央服务器。
• 在模型聚合过程中应用自适应噪声注入，以根据系统需求微调隐私水平。
• 使用包含683条记录和9个离散属性的乳腺癌威斯康星数据集（BCWD）训练联邦支持向量机（SVM）模型。
• 实施隐私预算（ε）框架，以量化和控制训练轮次中差分隐私的水平。
• 集成对抗性训练（AT）作为防御机制，以应对通过污染数据注入训练管道的后门攻击。
• 使用诊断准确率和损失函数作为指标，在不同ε水平下评估系统，以分析隐私-效用权衡。

实验结果

研究问题

• RQ1 如何有效应用分布式差分隐私以保护基于联邦学习的元宇宙医疗系统中的患者数据？
• RQ2 在基于真实世界医疗数据训练的元宇宙临床AI模型中，变化的隐私预算（ε）对诊断准确率有何影响？
• RQ3 物理层安全与安全语义通信在元宇宙医疗数据传输过程中在多大程度上可增强数据机密性？
• RQ4 后门攻击如何影响分布式元宇宙诊所中的AI/ML模型，哪些防御措施是有效的？
• RQ5 隐私保护机制如DDP与对抗性训练能否共存，以在虚拟医疗环境中同时保护数据隐私与模型完整性？

主要发现

• 所提出的分布式差分隐私框架即使在严格的隐私水平下也实现了高诊断准确率，ε = 28和ε = 30的性能几乎与ε = 50相同。
• 观察到清晰的隐私-效用权衡（PUT），较低的ε值（更强隐私）导致准确率略有下降，但性能饱和点出现在ε > 30之后。
• 参与虚拟诊所数量从10家增加到20家后，整体诊断准确率得到提升，这是由于模型聚合更优以及训练见解的多样性增强。
• 该系统表明，更强的隐私（更低的ε）可在不显著损失效用的情况下实现，特别是当ε降低至28–30时。
• 对抗性训练通过提升模型在良性样本和污染样本上的鲁棒性，有效减轻了后门攻击的影响。
• 在客户端实施差分隐私并结合聚合过程中的自适应噪声调优，为元宇宙中分布式医疗人工智能提供了正式且可调节的隐私保证。