[論文レビュー] The FeatureCloud AI Store for Federated Learning in Biomedicine and Beyond

Julian Matschinske, Julian Späth+30 more|arXiv (Cornell University)|May 12, 2021

Privacy-Preserving Technologies in Data被引用数 5

ひとこと要約

FeatureCloud AIストアは、バイオメディカル研究におけるフェデレーテッドラーニング（FL）を簡素化する統合型プラットフォームであり、事前構築済みのプライバシー保護型AIアプリを提供することで、生のデータを共有せずに複数機関にまたがる安全でスケーラブルなモデル学習を可能にする。中央集権学習と同等のパフォーマンスを達成しながら、セキュアマルチパーティコンputation（SMPC）と統合することでセキュリティを強化する。

ABSTRACT

Machine Learning (ML) and Artificial Intelligence (AI) have shown promising results in many areas and are driven by the increasing amount of available data. However, this data is often distributed across different institutions and cannot be shared due to privacy concerns. Privacy-preserving methods, such as Federated Learning (FL), allow for training ML models without sharing sensitive data, but their implementation is time-consuming and requires advanced programming skills. Here, we present the FeatureCloud AI Store for FL as an all-in-one platform for biomedical research and other applications. It removes large parts of this complexity for developers and end-users by providing an extensible AI Store with a collection of ready-to-use apps. We show that the federated apps produce similar results to centralized ML, scale well for a typical number of collaborators and can be combined with Secure Multiparty Computation (SMPC), thereby making FL algorithms safely and easily applicable in biomedical and clinical environments.

研究の動機と目的

• 分散型バイオメディカルデータ上で機械学習モデルをトレーニングする際の患者のプライバシーを保護しながら、その挑戦に応えること。
• プライバシー保護計算の専門知識が限られた研究者や開発者にとって、フェデレーテッドラーニングの実装の複雑さを低減すること。
• SMPCなどの安全計算技術との統合をサポートするモジュラーかつ拡張可能なプラットフォームを提供すること。
• 即戦力のAIアプリケーションを提供することで、臨床およびバイオメディカル研究現場におけるフェデレーテッドラーニングの実用的導入を可能にすること。
• FeatureCloudプラットフォーム上でのフェデレーテッドラーニングが、中央集権学習と同等のパフォーマンスを達成することを実証すること。

提案手法

• プラットフォームは、一般的なバイオメディカルタスク向けに事前設定済みの再利用可能なフェデレーテッドラーニングアプリのコレクションをホスティングする中央集権型AIストアを実装している。
• 各アプリは、モデル定義、アグリゲーション戦略、通信プロトコルを含む完全なFLパイプラインをカプセル化しており、低レベルの実装詳細を抽象化している。
• システムは、トレーニング中におけるモデル更新や勾配の保護を目的として、セキュアマルチパーティコンputation（SMPC）との統合をサポートしている。
• プラットフォームは拡張性を考慮してアーキテクチャ設計されており、コアコンponentsを変更せずに新しいモデルやアルゴリズムをプラグインとして追加可能である。
• クライアントとサーバー間の通信は、標準暗号プロトコルを使用して保護されており、モデルパラメータや中間結果の機密性が保証されている。
• システムは複数の機関にまたがる水平スケーリングをサポートしており、通常のバイオメディカル協働ワークロードを想定したパフォーマンス評価が行われている。

実験結果

リサーチクエスチョン

• RQ1 統合的かつアプリケーションベースのプラットフォームは、バイオメディカル研究におけるフェデレーテッドラーニングの展開の複雑さを顕著に低減できるか？
• RQ2 FeatureCloud AIストアを介したフェデレーテッドラーニングのパフォーマンスは、中央集権学習と比較して、モデルの精度や収束性においてどの程度の差があるか？
• RQ3 実際の数の協働機関にまたがる状況で、このプラットフォームはどの程度スケーラブルか？
• RQ4 SMPCの統合は、パフォーマンスの劣化を伴わずに、フェデレーテッドラーニングにおけるモデル更新のセキュリティをどの程度向上できるか？
• RQ5 モジュラーかつ拡張可能なアプリアーキテクチャにより、このプラットフォームは多様なバイオメディカル機械学習タスクをサポートできるか？

主な発見

• FeatureCloud AIストアは、最小限のコーディングでフェデレーテッドラーニングを可能にし、プライバシー保護計算の専門知識がなくても研究者がモデルをデプロイできる。
• プラットフォーム上でのフェデレーテッドラーニングアプリは、ベンチマーク用バイオメディカルデータセットにおいて、中央集権学習と同等のモデルパフォーマンスを達成している。
• 複数の協働者にまたがる環境でも、システムは効果的にスケーリングされ、安定した収束性と低い通信オーバーヘッドを維持している。
• セキュアマルチパーティコンputation（SMPC）との統合により、モデル更新の保護が強化され、パフォーマンスへの顕著な悪影響は生じていない。
• モジュラーなアプリアーキテクチャにより、異なるFLパイプラインの再利用と組み合わせが可能となり、多様なバイオメディカル応用をサポートしている。
• プラットフォームはデプロイ時間とエンジニアリング作業を削減し、医療分野におけるプライバシー保護型AIモデルの迅速なプロトタイピングと本番導入を可能にしている。