[논문 리뷰] OpenFL: An open-source framework for Federated Learning

G. Anthony Reina, Alexey Gruzdev외 16명|arXiv (Cornell University)|2021. 05. 13.

Privacy-Preserving Technologies in Data참고 문헌 18인용 수 58

한 줄 요약

OpenFL은 데이터 프라이버시형 연합 학습을 협력자와 집계자 전반에 걸쳐 가능하게 하는 오픈 소스의 생산 준비 프레임워크이며, TensorFlow와 PyTorch를 지원하는 보안적이고 확장 가능한 설계를 갖추고 있습니다. 의료 분야에서의 연합과 관련 계산 대회 사례를 시연합니다.

ABSTRACT

Federated learning (FL) is a computational paradigm that enables organizations to collaborate on machine learning (ML) projects without sharing sensitive data, such as, patient records, financial data, or classified secrets. Open Federated Learning (OpenFL https://github.com/intel/openfl) is an open-source framework for training ML algorithms using the data-private collaborative learning paradigm of FL. OpenFL works with training pipelines built with both TensorFlow and PyTorch, and can be easily extended to other ML and deep learning frameworks. Here, we summarize the motivation and development characteristics of OpenFL, with the intention of facilitating its application to existing ML model training in a production environment. Finally, we describe the first use of the OpenFL framework to train consensus ML models in a consortium of international healthcare organizations, as well as how it facilitates the first computational competition on FL.

연구 동기 및 목표

• 민감한 데이터를 공유하지 않고 협업을 가능하게 하기 위한 연합 학습의 필요성을 제시합니다.
• 실제 배포를 위한 OpenFL 아키텍처, 워크플로우 및 보안 설계를 설명합니다.
• 의료 분야 중심의 연합 학습 사용 사례와 계산 대회 활용 사례를 선보입니다.
• 설치, 작동 및 기존 ML 워크플로우를 FL로 이식하기 위한 실용적인 지침을 설명합니다.

제안 방법

• 협력자와 집계자 간의 스타 토폴로지 연합 및 통신을 위한 상호 인증 TLS 사용을 설명합니다.
• 연합 조정을 정의하는 FL 계획(YAML 파일) 개념을 소개합니다. 이는 작업, 설정 및 RPC를 정의합니다.
• OpenFL 구성 요소(협력자, 집계자, 백엔드)와 업데이트가 전역 모델로 어떻게 집계되는지 설명합니다.
• 연합 실행의 두 가지 기본 인터페이스인 Python API와 fx CLI를 자세히 다루고, 튜토리얼과 예제를 제공합니다.
• 배포 옵션(베어 메탈 및 Docker) 및 보안 강화(PKI, TEEs)에 대한 지침을 제공합니다.
• TensorFlow/Keras MNIST 튜토리얼 및 향후 대화형 API 작업을 포함한 실험적 워크플로를 제시합니다.

실험 결과

연구 질문

• RQ1 오픈 소스 프레임워크가 다수의 기관 간에 안전하고 데이터 프라이버시한 연합 학습을 어떻게 가능하게 할 수 있는가?
• RQ2 확장 가능한 실제 FL 배치를 지원하기 위해 어떤 아키텍처 설계와 보안 메커니즘이 필요한가?
• RQ3 FL을 뇌종양 분절과 같은 의료 협력을 데이터 프라이버시를 유지하면서 어떻게 발전시킬 수 있는가?
• RQ4 OpenFL을 사용한 설치, 연합 설정 및 실행의 실용적 워크플로는 무엇인가?

주요 결과

• OpenFL은 원격 협력자 간에 TensorFlow와 PyTorch로 학습을 지원하되 데이터를 로컬에 유지하고 모델 업데이트만 교환합니다.
• FL 계획은 작업, 라운드 및 집계를 포함한 연합 동작을 지배하여 반복 가능하고 다기관 학습을 가능하게 합니다.
• 플랫폼은 상호 인증 TLS, PKI 인증서 및 선택적 신뢰 실행 환경(TEEs)을 통한 보안을 강조합니다.
• FeTS는 뇌종양 분절 및 협력 모델 개발을 위한 실제 다기관 헬스케어 연합에서 OpenFL을 시연합니다.
• OpenFL은 실용적 도입을 위한 튜토리얼과 예제(포함 Keras MNIST 튜토리얼) 및 여러 배포 옵션(베어 메탈 및 Docker)을 제공합니다.
• 본 연구는 FL 연구 커뮤니티의 발전을 위한 연합 학습 최초의 계산 대회 프레임워크를 개요합니다.