[论文解读] OpenFL: An open-source framework for Federated Learning

G. Anthony Reina, Alexey Gruzdev+16 more|arXiv (Cornell University)|May 13, 2021

Privacy-Preserving Technologies in Data参考文献 18被引用 58

一句话总结

OpenFL 是一个开源、面向生产环境的框架，能够在协作者和聚合方之间实现数据私有化的联邦学习，支持 TensorFlow 和 PyTorch，设计安全、可扩展。它展示了在医疗保健领域的联邦学习和相关的计算竞赛用例。

ABSTRACT

Federated learning (FL) is a computational paradigm that enables organizations to collaborate on machine learning (ML) projects without sharing sensitive data, such as, patient records, financial data, or classified secrets. Open Federated Learning (OpenFL https://github.com/intel/openfl) is an open-source framework for training ML algorithms using the data-private collaborative learning paradigm of FL. OpenFL works with training pipelines built with both TensorFlow and PyTorch, and can be easily extended to other ML and deep learning frameworks. Here, we summarize the motivation and development characteristics of OpenFL, with the intention of facilitating its application to existing ML model training in a production environment. Finally, we describe the first use of the OpenFL framework to train consensus ML models in a consortium of international healthcare organizations, as well as how it facilitates the first computational competition on FL.

研究动机与目标

• 阐明需要通过联邦学习来实现协作而不共享敏感数据的动机。
• 描述 OpenFL 架构、工作流及面向真实世界部署的安全设计。
• 展示面向医疗保健的联邦学习用例以及一个计算竞赛。
• 解释安装、运行以及将现有机器学习工作流迁移到 FL 的实际指南。

提出的方法

• 描述带有协作者和聚合方的星型拓扑联邦及用于通信的互相认证的 TLS。
• 介绍 FL 计划的概念（一个 YAML 文件），用于定义任务、设置和用于联邦协调的 RPC。
• 解释 OpenFL 组件：协作者、聚合方、后端，以及如何将更新聚合到全局模型中。
• 详细介绍运行联邦的两个主要接口：Python API 和 fx CLI，包括教程和示例。
• 提供部署选项（裸机和 Docker）以及安全增强（PKI、TEEs）的指南。
• 展示实验性工作流程，包括 TensorFlow/Keras 的 MNIST 教程以及未来的交互式 API 工作。

实验结果

研究问题

• RQ1 开源框架如何在多机构之间实现安全、数据私有的联邦学习？
• RQ2 哪些架构设计和安全机制是支持可扩展、现实世界 FL 部署所必需的？
• RQ3 如何在保护数据隐私的同时推动医疗保健领域的协作，如脑肿瘤分割？
• RQ4 使用 OpenFL 部署和运行联邦训练的实际工作流程有哪些（安装、联邦设置和执行）？

主要发现

• OpenFL 支持在远程协作者之间使用 TensorFlow 和 PyTorch 进行训练，同时将数据保留在本地，仅交换模型更新。
• FL 计划管理联邦行为，包括任务、轮次和聚合，支持可重复的多机构训练。
• 该平台通过互相认证的 TLS、PKI 证书以及可选的可信执行环境（TEEs）来强调安全性。
• FeTS 在真实世界的多机构医疗保健联邦中展示了 OpenFL，用于脑肿瘤分割和协作模型开发。
• OpenFL 提供教程和示例（包括 Keras MNIST 教程）以及多种部署选项（bare-metal 和 Docker），以便实际应用。
• 该工作为首个关于联邦学习的计算竞赛框架奠定基础，旨在推动 FL 研究社区的发展。