[論文レビュー] OpenFL: An open-source framework for Federated Learning

G. Anthony Reina, Alexey Gruzdev+16 more|arXiv (Cornell University)|May 13, 2021

Privacy-Preserving Technologies in Data参考文献 18被引用数 58

ひとこと要約

OpenFL は、協力者と集約者間でデータをプライベートに保つ連合学習を可能にするオープンソースの生産環境向けフレームワークで、TensorFlow と PyTorch をサポートし、安全で拡張性のある設計を特徴とします。ヘルスケアでの連合学習と関連する計算競技のユースケースを示します。

ABSTRACT

Federated learning (FL) is a computational paradigm that enables organizations to collaborate on machine learning (ML) projects without sharing sensitive data, such as, patient records, financial data, or classified secrets. Open Federated Learning (OpenFL https://github.com/intel/openfl) is an open-source framework for training ML algorithms using the data-private collaborative learning paradigm of FL. OpenFL works with training pipelines built with both TensorFlow and PyTorch, and can be easily extended to other ML and deep learning frameworks. Here, we summarize the motivation and development characteristics of OpenFL, with the intention of facilitating its application to existing ML model training in a production environment. Finally, we describe the first use of the OpenFL framework to train consensus ML models in a consortium of international healthcare organizations, as well as how it facilitates the first computational competition on FL.

研究の動機と目的

• 機微なデータを共有せずに協調を可能にするための連合学習の必要性を動機づける。
• 実世界の展開に向けた OpenFL アーキテクチャ、ワークフロー、およびセキュリティ設計を説明する。
• 医療分野に焦点を当てた連合学習のユースケースと計算競技を紹介する。
• 既存の ML ワークフローを FL に移行するためのインストール、運用、および実用的なガイダンスを説明する。

提案手法

• 協力者と集約者を含むスター型トポロジの連合と、通信における相互認証 TLS の使用を説明する。
• 連合の調整のためにタスク、設定、RPC を定義する FL plan（YAML ファイル）の概念を紹介する。
• OpenFL の構成要素：collaborators、aggregator、backend、および更新がグローバルモデルに集約される仕組みを説明する。
• 連合を実行するための二つの主要インターフェース：Python API と fx CLI の詳細、チュートリアルと例を含む。
• デプロイオプション（bare-metal と Docker）およびセキュリティ強化（PKI、TEEs）に関するガイダンスを提供する。
• TensorFlow/Keras MNIST チュートリアルを含む実験的ワークフローと将来の対話型 API 作業を提示する。

実験結果

リサーチクエスチョン

• RQ1 オープンソースのフレームワークは、複数の機関に跨る安全でデータを private に保つ連合学習をどのように実現できるか？
• RQ2 スケーラブルな実世界の FL 展開を支えるために、どのようなアーキテクチャ設計とセキュリティ機構が必要か？
• RQ3 データのプライバシーを保護しつつ、脳腫瘍分割などの医療協力を FL を用いてどのように進展させられるか？
• RQ4 OpenFL を用いた連合学習のデプロイと運用の実用的なワークフロー（インストール、連合設定、実行）とは何か？

主な発見

• OpenFL は、データを局所に保ちながら、リモートの協力者間で TensorFlow と PyTorch でのトレーニングをサポートし、モデル更新のみが交換される。
• FL plan は、タスク、ラウンド、集約など連合の挙動を管理し、再現性のある複数機関のトレーニングを可能にする。
• プラットフォームは、相互認証 TLS、PKI 証明書、および任意の信頼済み実行環境（TEEs）を通じたセキュリティを強調する。
• FeTS は、脳腫瘍分割と協調的モデル開発のための、現実の多機関連機関医療連合で OpenFL を実証している。
• OpenFL は、チュートリアルと例（Keras MNIST チュートリアルを含む）および実用的な採用のための複数のデプロイオプション（bare-metal と Docker）を提供する。
• 本研究は、FL 研究コミュニティを前進させるための連合学習に関する最初の計算競技のフレームワークを概説している。