[논문 리뷰] Applied Federated Learning: Architectural Design for Robust and Efficient Learning in Privacy Aware Settings

Branislav Stojkovic, Jonathan Woodbridge외 9명|arXiv (Cornell University)|2022. 06. 02.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 논문은 메타에서 대규모로 구현하기 위한 확장 가능하고 프라이버시를 보장하는 분산 학습 아키텍처를 제안한다. 이는 사용자 기기에서 데이터를 국소화한 채로 강력하고 효율적인 모델 학습을 가능하게 한다. 미세한 프라이버시, 안전한 집계, 그리고 적응형 클라이언트 선택을 조합함으로써, 이 시스템은 이질적이고 자원이 제한된 조건에서도 성능 저하를 최소화하면서 높은 모델 정확도를 달성한다.

ABSTRACT

The classical machine learning paradigm requires the aggregation of user data in a central location where machine learning practitioners can preprocess data, calculate features, tune models and evaluate performance. The advantage of this approach includes leveraging high performance hardware (such as GPUs) and the ability of machine learning practitioners to do in depth data analysis to improve model performance. However, these advantages may come at a cost to data privacy. User data is collected, aggregated, and stored on centralized servers for model development. Centralization of data poses risks, including a heightened risk of internal and external security incidents as well as accidental data misuse. Federated learning with differential privacy is designed to avoid the server-side centralization pitfall by bringing the ML learning step to users' devices. Learning is done in a federated manner where each mobile device runs a training loop on a local copy of a model. Updates from on-device models are sent to the server via encrypted communication and through differential privacy to improve the global model. In this paradigm, users' personal data remains on their devices. Surprisingly, model training in this manner comes at a fairly minimal degradation in model performance. However, federated learning comes with many other challenges due to its distributed nature, heterogeneous compute environments and lack of data visibility. This paper explores those challenges and outlines an architectural design solution we are exploring and testing to productionize federated learning at Meta scale.

연구 동기 및 목표

• 기존 기계 학습에서의 중앙집중식 데이터 수집과 관련된 프라이버시 리스크를 해결하기 위해 모델 학습을 탈중앙화한다.
• 기기 이질성, 신뢰할 수 없는 연결성, 제한된 계산 자원 등의 문제를 해결한다.
• 강력한 프라이버시 보장을 위해 미세한 프라이버시와 안전한 집계를 통해 고정밀도 모델 정확도를 유지하는 생산용 시스템을 설계한다.
• 통신, 클라이언트 선택, 모델 업데이트 집계 최적화를 통해 수백만 대의 기기에서 효율적이고 확장 가능한 학습을 가능하게 한다.

제안 방법

• 탈중앙화된 학습: 각 클라이언트(기기)는 자체 기기 데이터를 사용해 글로벌 모델의 로컬 복제본을 학습한다.
• 안전한 모델 업데이트: 기울기 또는 모델 가중치는 중앙 서버로 전송하기 전에 암호화되어 노출을 방지한다.
• 미세한 프라이버시: 모델 업데이트에 노이즈를 주입하여 개인 데이터 기여를 보호하고 프라이버시 보장을 확보한다.
• 안전한 집계: 여러 클라이언트의 업데이트가 서버에서 암호학적으로 집계되어 개별 기여를 은폐한다.
• 적응형 클라이언트 선택: 각 라운드에서 충분한 자원과 안정적인 연결성을 확보한 클라이언트의 하위 집합만 선택하여 학습 효율성을 향상시킨다.
• 강건한 집계: 시스템은 오작동하거나 악성 클라이언트의 영향을 탐지하고 완화하기 위한 기법을 사용한다.

실험 결과

연구 질문

• RQ1 수백만 대의 이질적인 모바일 기기에서 확장 가능한 분산 학습 아키텍처를 어떻게 설계할 수 있는가? 이는 사용자 프라이버시를 유지하면서 가능해야 한다.
• RQ2 기기 탈락, 신뢰할 수 없는 연결성, 데이터 이질성에 대비한 강건성을 확보하기 위해 어떤 아키텍처 구성 요소가 필수적인가?
• RQ3 생산 환경에서 미세한 프라이버시와 안전한 집계를 얼마나 효과적으로 통합할 수 있는가? 이는 모델 성능에 상당한 영향을 주지 않는다.
• RQ4 클라이언트 선택 및 통신 최적화는 탈중앙화 환경에서 학습 효율성과 수렴 속도를 어떻게 향상시킬 수 있는가?
• RQ5 대규모 분산 학습 구현에서 프라이버시, 정확도, 시스템 효율성 간의 상충 관계는 어떻게 발생하는가?

주요 결과

• 제안된 아키텍처는 탈중앙화된 데이터와 프라이버시 제약 조건에도 불구하고, 중앙집중식 학습과 유사한 높은 모델 정확도를 달성하며 성능 저하가 최소화된다.
• 미세한 프라이버시와 안전한 집계는 악성 조건에서도 사용자 데이터를 효과적으로 보호하면서 모델의 유용성을 유지한다.
• 적응형 클라이언트 선택은 고성능·신뢰성 있는 클라이언트에 집중함으로써 통신 오버헤드를 줄이고 수렴 속도를 향상시켜 학습 효율성을 향상시킨다.
• 시스템은 기기 이질성과 네트워크 불안정성에 대해 강건성을 보이며, 다양한 클라이언트 환경에서 일관된 성능을 유지한다.
• 종단 간 평가 결과, 이 아키텍처는 수백만 대의 기기에서 저지연성과 고신뢰성으로 대규모 구현에 효과적으로 스케일링됨을 입증한다.
• 프라이버시 보존 기법의 통합은 모델 성능에 상당한 영향을 주지 않으며, 대규모에서 프라이버시 인식 AI의 실현 가능성을 입증한다.