[논문 리뷰] Efficient and Private Federated Learning with Partially Trainable Networks

Hakim Sidahmed, Zheng Xu외 3명|arXiv (Cornell University)|2021. 10. 06.

Privacy-Preserving Technologies in Data참고 문헌 44인용 수 11

한 줄 요약

이 논문은 연합 학습 중 모델 파라미터의 일부를 冻결하여 통신 및 계산 비용을 극적으로 줄이는 방법인 연합 부분 학습 가능 네트워크(FedPT)를 제안한다. 학습 가능한 파라미터와 랜덤 시드만 전송함으로써 FedPT는 정확도 저하를 최소화하면서도 최대 46배의 통신 비용 절감을 달성하며, 강력한 차별적 프라이버시 보장 하에 유틸리티도 향상시킨다.

ABSTRACT

Federated learning is used for decentralized training of machine learning models on a large number (millions) of edge mobile devices. It is challenging because mobile devices often have limited communication bandwidth and local computation resources. Therefore, improving the efficiency of federated learning is critical for scalability and usability. In this paper, we propose to leverage partially trainable neural networks, which freeze a portion of the model parameters during the entire training process, to reduce the communication cost with little implications on model performance. Through extensive experiments, we empirically show that Federated learning of Partially Trainable neural networks (FedPT) can result in superior communication-accuracy trade-offs, with up to $46 imes$ reduction in communication cost, at a small accuracy cost. Our approach also enables faster training, with a smaller memory footprint, and better utility for strong differential privacy guarantees. The proposed FedPT method can be particularly interesting for pushing the limitations of over-parameterization in on-device learning.

연구 동기 및 목표

• 크로스디바이스 연합 학습 환경에서 자원 제약이 있는 엣지 디바이스에서 대규모 모델을 학습할 때 발생하는 높은 통신 및 계산 오버헤드를 해결한다.
• 학습 가능한 파라미터의 일부를 동결하여 통신 및 메모리 사용량을 줄여 연합 학습의 효율성을 향상시킨다.
• 적은 수의 파라미터 업데이트로 인해 차별적 프라이버시 노이즈에 더 강건한 학습 과정을 만들어내어 프라이버시 보장을 강화한다.
• 실제 연합 학습 구현 환경에서 통신 효율성, 모델 정확도, 메모리 프로파일 간의 트레이드오프를 탐색한다.
• 특히 대역폭이나 컴퓨팅 능력이 제한된 디바이스의 자원 부담을 줄여 연합 학습에 더 넓은 참여를 가능하게 한다.

제안 방법

• 학습 프레임워크로 일반화된 FedAvg를 활용하여, 서버로 전송되는 것은 학습 가능한 파라미터에 대한 클라이언트 업데이트뿐이다.
• 학습 중 일부 모델 파라미터를 동결하고, 서버에서 각 클라이언트로 전송된 랜덤 시드를 통해 재구성한다.
• 학습 가능한 파라미터(최소 2%의 총 파라미터 비율)와 클라이언트당 하나의 랜덤 시드만 전송함으로써 통신 비용을 절감한다.
• 로컬 학습 중 동결된 파라미터에 대한 기울기 계산을 생략함으로써 로컬 계산 및 메모리 사용량을 최소화한다.
• 차별적 프라이버시와 통합하여 학습 가능한 파라미터에만 노이즈를 추가함으로써 업데이트되는 파라미터 수가 줄어들어 노이즈 영향을 감소시킨다.
• 합성곱 네트워크(CIFAR-10, EMNIST)와 트랜스포머(Stack Overflow)를 포함한 다양한 아키텍처에 FedPT를 적용하여 일반화 가능성에 대한 검증을 수행한다.

실험 결과

연구 질문

• RQ1 학습 가능한 파라미터의 일부를 동결함으로써 통신 비용을 얼마나 줄일 수 있으며, 이로 인해 모델 정확도에 심각한 영향을 주지 않는가?
• RQ2 부분 파라미터 학습 하에서 다양한 모델 아키텍처와 데이터셋 간의 통신-정확도 트레이드오프는 어떻게 달라지는가?
• RQ3 학습 가능한 파라미터 수를 줄임으로써 차별적 프라이버시 노이즈에 대한 저항력이 향상되어 강력한 프라이버시 제약 조건 하에서도 더 높은 유틸리티를 달성할 수 있는가?
• RQ4 파라미터 동결이 연합 환경에서의 로컬 메모리 프로파일과 학습 속도에 어떤 영향을 미치는가?
• RQ5 다양한 클라이언트 능력이 존재하는 현실 세계의 디바이스 내 연합 학습 환경에 FedPT를 효과적으로 스케일링할 수 있는가?

주요 결과

• FedPT는 완전히 학습 가능한 모델 대비 최대 46배의 통신 비용 절감을 달성하며, 다양한 데이터셋에서 테스트 정확도가 0.1%에서 4% 범위 내에서만 감소한다.
• 시뮬레이션 실험에서 클라이언트 및 서버의 계산량이 감소함에 따라 학습 시간이 최대 25% 감소한다.
• 동결된 파라미터 비율이 증가할수록 피크 메모리 사용량이 최대 10% 감소하며, 특히 CIFAR-10 실험에서 뚜렷하게 나타난다.
• 강력한 차별적 프라이버시(예: ε ≈ 1.77) 조건 하에서 FedPT는 동일한 노이즈 수준에서 완전히 학습 가능한 모델(14.60%)보다 더 높은 정확도(15.01%)를 달성한다.
• 이 방법은 이미지 분류(EMNIST, CIFAR-10)와 자연어 처리(Stack Overflow 다음 단어 예측)를 포함한 다양한 작업에서 경쟁적인 성능을 유지한다.
• 특히 대역폭이나 컴퓨팅 능력이 제한된 디바이스에 매우 유리한 효율적이고 프라이버시 보장된 학습을 가능하게 한다.