[논문 리뷰] The FeatureCloud AI Store for Federated Learning in Biomedicine and Beyond

Julian Matschinske, Julian Späth외 30명|arXiv (Cornell University)|2021. 05. 12.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

FeatureCloud AI 스토어는 생물의학 연구를 위한 피벗형 학습(FL)을 단순화하는 통합 플랫폼으로, 사전 구축된 프라이버시 보존 AI 앱을 제공한다. 이 플랫폼은 원시 데이터를 공유하지 않고도 기관 간에 안전하고 확장 가능한 모델 훈련을 가능하게 하며, 중앙집중화 학습과 비교해 유사한 성능을 달성하면서도 보다 높은 보안성을 확보하기 위해 보안 다자간 계산(SMPC)과 통합된다.

ABSTRACT

Machine Learning (ML) and Artificial Intelligence (AI) have shown promising results in many areas and are driven by the increasing amount of available data. However, this data is often distributed across different institutions and cannot be shared due to privacy concerns. Privacy-preserving methods, such as Federated Learning (FL), allow for training ML models without sharing sensitive data, but their implementation is time-consuming and requires advanced programming skills. Here, we present the FeatureCloud AI Store for FL as an all-in-one platform for biomedical research and other applications. It removes large parts of this complexity for developers and end-users by providing an extensible AI Store with a collection of ready-to-use apps. We show that the federated apps produce similar results to centralized ML, scale well for a typical number of collaborators and can be combined with Secure Multiparty Computation (SMPC), thereby making FL algorithms safely and easily applicable in biomedical and clinical environments.

연구 동기 및 목표

• 분산된 생물의학 데이터에서 기계 학습 모델을 훈련시키는 데 있어 환자 개인정보를 보호하면서도 문제를 해결하기 위해.
• 프라이버시 보존 계산 전문 지식이 제한된 연구자 및 개발자들이 피벗형 학습의 구현 복잡성을 줄이기 위해.
• SMPC와 같은 보안 계산 기법과의 통합을 지원하는 모듈형이고 확장 가능한 플랫폼을 제공하기 위해.
• 사용자 친화적인 AI 앱을 통해 임상 및 생물의학 연구 환경에서 피벗형 학습의 실용적 구현을 가능하게 하기 위해.
• FeatureCloud 플랫폼에서의 피벗형 학습이 중앙집중화 훈련과 비교해 유사한 성능을 달성함을 입증하기 위해.

제안 방법

• 플랫폼은 일반적인 생물의학 작업을 위한 사전 설정된 재사용 가능한 피벗형 학습 앱 모음을 호스팅하는 중앙집중식 AI 스토어를 구현한다.
• 각 앱은 모델 정의, 집계 전략, 통신 프로토콜을 포함한 완전한 FL 파이프라인을 봉인하여 저수준의 구현 세부 정보를 추상화한다.
• 시스템은 모델 업데이트 및 기울기를 훈련 중에 보호하기 위해 보안 다자간 계산(SMPC)과의 통합을 지원한다.
• 플랫폼은 확장성에 유리하게 설계되어, 핵심 구성 요소를 수정하지 않고도 새로운 모델과 알고리즘을 플러그인 방식으로 추가할 수 있다.
• 클라이언트와 서버 간의 통신은 표준 암호화 프로토콜을 사용하여 보장되며, 모델 파rameter와 중간 결과의 기밀성이 확보된다.
• 시스템은 다수의 기관에 걸쳐 수평적 확장이 가능하며, 일반적인 생물의학 협업 워크로드 기반으로 성능이 평가된다.

실험 결과

연구 질문

• RQ1 통합형 애플리케이션 기반 플랫폼이 생물의학 연구에서 피벗형 학습을 구현하는 데 있어 복잡성을 크게 줄일 수 있는가?
• RQ2 FeatureCloud AI 스토어를 통한 피벗형 학습의 성능은 정확도와 수렴 속도 측면에서 중앙집중화 훈련과 비교해 어떻게 되는가?
• RQ3 실제로 협업하는 기관의 수준에서 플랫폼이 얼마나 잘 확장될 수 있는가?
• RQ4 SMPC 통합이 성능 저하 없이 피벗형 학습 중 모델 업데이트의 보안성을 얼마나 효과적으로 향상시키는가?
• RQ5 모듈형이고 확장 가능한 앱 아키텍처를 통해 플랫폼이 다양한 생물의학 기계 학습 작업을 지원할 수 있는가?

주요 결과

• FeatureCloud AI 스토어는 최소한의 코드 작성으로 피벗형 학습을 가능하게 하여, 프라이버시 보존 계산에 깊은 전문 지식이 없는 연구자도 모델을 배포할 수 있도록 한다.
• 플랫폼의 피벗형 학습 앱은 기준 생물의학 데이터셋에서 중앙집중화 훈련과 유사한 모델 성능을 달성한다.
• 시스템은 다수의 협업 기관 간에서 효과적으로 확장되며, 다기관 환경에서도 안정적인 수렴과 낮은 통신 오버헤드를 유지한다.
• 보안 다자간 계산(SMPC)과의 통합은 모델 업데이트 중에 데이터 보안성을 향상시키며, 성능 저하 없이도 효과적이다.
• 모듈형 앱 아키텍처는 다양한 FL 파이프라인의 재사용과 조합을 가능하게 하여, 다양한 생물의학 응용을 지원한다.
• 플랫폼은 배포 시간과 엔지니어링 작업을 줄여, 헬스케어 분야에서 프라이버시 보존 AI 모델의 빠른 프로토타이핑과 생산을 가능하게 한다.