[论文解读] Privacy-preserving machine learning for healthcare: open challenges and future perspectives

Alejandro Guerra-Manzanares, L. Julián Lechuga López+2 more|arXiv (Cornell University)|Mar 27, 2023

Privacy-Preserving Technologies in Data参考文献 74被引用 5

一句话总结

本文综述了医疗领域中隐私保护机器学习（PPML）的研究进展，重点关注联邦学习、同态加密和差分隐私在医学影像与电子健康记录（EHR）训练与推理中的应用。研究识别出可扩展性、可解释性及多模态融合方面的关键挑战，并呼吁建立标准化基准，推动先进深度学习架构的广泛应用，以提升隐私保护型临床人工智能系统的发展。

ABSTRACT

Machine Learning (ML) has recently shown tremendous success in modeling various healthcare prediction tasks, ranging from disease diagnosis and prognosis to patient treatment. Due to the sensitive nature of medical data, privacy must be considered along the entire ML pipeline, from model training to inference. In this paper, we conduct a review of recent literature concerning Privacy-Preserving Machine Learning (PPML) for healthcare. We primarily focus on privacy-preserving training and inference-as-a-service, and perform a comprehensive review of existing trends, identify challenges, and discuss opportunities for future research directions. The aim of this review is to guide the development of private and efficient ML models in healthcare, with the prospects of translating research efforts into real-world settings.

研究动机与目标

• 提供2020至2023年期间医疗领域中隐私保护机器学习（PPML）技术的全面综述，重点聚焦于基于医学影像与EHR的模型训练与推理。
• 识别PPML在临床应用中面临的隐私、可扩展性与模型可解释性方面的开放性挑战。
• 突出尚未充分探索的研究方向，如MLaaS、多模态学习以及先进深度学习模型的整合。
• 倡导建立标准化基准并提升模型泛化能力，以支持隐私保护机器学习在医疗领域的实际部署。
• 通过强调跨领域协作，弥合机器学习研究与临床网络安全之间的鸿沟。

提出的方法

• 系统性回顾2020年至今发表的同行评审文献，聚焦于联邦学习、同态加密、差分隐私及安全多方计算等PPML方法。
• 根据输入模态对研究进行分类，特别关注医学影像与EHR数据，因其在诊断与预后任务中的广泛应用。
• 对PPML在模型训练（如联邦平均）与推理即服务（MLaaS）中的应用进行独立分析，突出其在隐私与性能之间的权衡差异。
• 评估方法论趋势，包括现代深度学习架构（如Transformer）在PPML流程中应用有限的问题。
• 识别在可解释性与公平性方面的缺口，尤其是在加密或噪声注入技术下的表现。
• 通过主题分析，提出未来研究方向，涵盖多模态学习、资源限制与部署可扩展性等挑战。

实验结果

研究问题

• RQ1 2020至2023年间，基于医学影像与EHR的医疗应用中，主流的PPML技术在模型训练与推理中如何应用？
• RQ2 联邦学习与差分隐私等隐私保护方法在临床环境中如何影响模型性能、可扩展性与可解释性？
• RQ3 在真实医疗环境中部署PPML系统面临的主要挑战是什么，特别是数据异构性、模型泛化能力与公平性方面？
• RQ4 最先进的深度学习架构（如Transformer）在PPML流程中与医疗领域结合的程度如何？其采用的主要障碍是什么？
• RQ5 如何设计MLaaS模型，以确保为计算资源有限的医疗机构提供隐私保护、高效且可信的服务？

主要发现

• 联邦学习是训练过程中最广泛采用的PPML方法，可实现在不共享原始数据的前提下协同训练模型，但其仍易受重建攻击影响。
• 尽管Transformer在视觉与自然语言处理任务中表现优异，但近期PPML研究中仅有极少数采用此类先进架构。
• 加密与噪声添加显著削弱了PPML的可解释性，仅有Montenegro等人（2021）的研究探讨了隐私与可解释性之间的交叉问题。
• MLaaS为实现隐私保护型高性能模型的普惠化提供了有前景但研究不足的路径，尤其对计算资源有限的机构更具价值。
• 尽管具有提升诊断准确率与临床理解潜力，基于医学影像与EHR的多模态学习在PPML中仍属研究空白。
• 缺乏类似MNIST或CIFAR-10的标准化基准，严重阻碍了医疗领域PPML方法的可复现性与公平比较，亟需建立公开的医疗数据集以支持评估。