[논문 리뷰] Policy-Based Federated Learning

Kleomenis Katevas, Eugene Bagdasaryan외 5명|arXiv (Cornell University)|2020. 03. 14.

Privacy-Preserving Technologies in Data참고 문헌 64인용 수 4

한 줄 요약

PoliFL은 다양한 사용자 그룹 간에 이질적인 프라이버시 정책(다양한 수준의 차별적 프라이버시 및 데이터 접근 제어 포함)을 시행하는 탈중앙화된 엣지 기반 연합 학습 프레임워크이다. 민감한 모바일 데이터(예: 텍스트, 이미지, 센서 로그)에 대해 정확한 모델 학습을 가능하게 하면서도 개인의 프라이버시 선호도를 존중하며, 고프라이버시 설정에서 연쇄적 학습을 사용할 경우 이미지 분류 작업에서 최대 84.07%의 정확도를 달성한다.

ABSTRACT

In this paper we present PoliFL, a decentralized, edge-based framework that supports heterogeneous privacy policies for federated learning. We evaluate our system on three use cases that train models with sensitive user data collected by mobile phones - predictive text, image classification, and notification engagement prediction - on a Raspberry Pi edge device. We find that PoliFL is able to perform accurate model training and inference within reasonable resource and time budgets while also enforcing heterogeneous privacy policies.

연구 동기 및 목표

• 모든 사용자에게 동일한 프라이버시 정책을 가정하는 기존 연합 학습 시스템의 한계를 해결하기 위해.
• 다양한 프라이버시 요구사항—예를 들어, 다양한 차별적 프라이버시 예산 및 선택적 데이터 접근(예: 위치, 마이크로폰)을 탈중앙화된 엣지 기반 환경에서 지원하기 위해.
• 예측 텍스트, 이미지 분류, 사용자 행동 모델링과 같은 민감한 모바일 데이터를 포함하는 실세계 애플리케이션에 있어서 연합 학습의 실용적 구현을 가능하게 하기 위해.
• 이질적인 정책이 중앙 집중식 신뢰 모델에 의존하지 않고 엣지에서 시행될 수 있음을 입증하기 위해.

제안 방법

• PoliFL은 각 사용자 디바이스가 로컬 모델 학습 중에 자체 프라이버시 정책을 시행하는 정책 기반 아키텍처를 사용한다.
• 중앙 PoliFL 서버는 연합 평균을 통해 모델 집합을 조율하고, 그룹의 프라이버시 예산($\epsilon$)을 사용하여 최종 모델에 차별적 프라이버시를 적용한다.
• 시스템은 연쇄적 학습을 활용한다: 다양한 사용자 그룹에 대해 프라이버시 선호도에 따라 순차적으로 모델을 학습시켜 전체 정확도를 향상시킨다.
• 정책은 데이터 접근(예: 위치 또는 마이크로폰 허용/차단)과 차별적 프라이버시 파rameter($\sigma$)를 제어하는 도메인 특화 언어를 사용해 정의된다.
• 서버와 엣지 디바이스 간에 정책과 결과를 안전하게 배포하기 위해 VPN 레이어를 통한 암호화된 통신을 사용한다.
• 로컬 정책이 데이터 공유를 允許하는 경우에만 모델 업데이트가 서버로 전송되어 엔드 투 엔드 프라이버시 시행 보장을 한다.

실험 결과

연구 질문

• RQ1 연합 학습 시스템은 다양한 사용자 그룹 간에 이질적인 프라이버시 정책—예를 들어, 다양한 차별적 프라이버시 예산 및 선택적 데이터 접근—을 지원할 수 있는가?
• RQ2 다른 프라이버시 제약 조건을 가진 그룹에 대해 순차적으로 모델을 학습하는 연쇄적 학습 방식이 모델 정확도와 프라이버시 예산 소비에 어떤 영향을 미치는가?
• RQ3 탈중앙화된 엣지 기반 프레임워크는 중앙 집중식 신뢰 모델에 의존하지 않고 사용자별 프라이버시 정책을 시행할 수 있는가?
• RQ4 실세계 모바일 환경에서 고프라이버시 설정($\sigma=0.001$)과 저프라이버시 설정($\sigma=0.01$) 간의 성능 상충 관계는 어떠한가?

주요 결과

• 이미지 분류 작업에서 연쇄적 학습은 고프라이버시 설정($\sigma=0.01$)의 통합 학습 방식과 저프라이버시 설정($\sigma=0.001$)의 단일 그룹 학습 방식을 모두 뛰어넘는 84.07%의 정확도를 달성했다.
• 예측 텍스트 모델링에서 고프라이버시 선호도($\sigma=0.001$)를 가진 사용자는 77.84%의 정확도를 달성했고, 저프라이버시 선호도를 가진 사용자는 70.22%를 기록했으며, 연쇄적 학습이 성능 향상을 이끌었다.
• 사용자 행동 모델링에서 연쇄적 학습은 AUC 71.1%를 기록했으며, 모든 사용자가 민감한 데이터를 배제하는 동일한 정책을 사용한 경우보다 1.13% 향상된 성능을 보였다.
• 세 가지 사용 사례 모두에서 연쇄적 학습 방식은 고프라이버시 및 저프라이버시 설정을 모두 뛰어넘었으며, 프라이버시와 정확도의 균형을 잘 맞추는 데 효과적임을 입증했다.
• 저프라이버시 그룹의 학습은 $\epsilon$ 프라이버시 예산을 유지하기 위해 조기에 중단되어야 했으며(예: 에포크 250), 이는 프라이버시와 모델 수렴 간의 상충 관계를 보여준다.
• 시스템은 엣지 디바이스 간에 이질적인 정책을 성공적으로 시행했으며, 프라이버시 보장을 유지하면서도 라즈베리 파이 디바이스에서 정확한 모델 집합을 가능하게 했다.