[논문 리뷰] Blockchain Assisted Decentralized Federated Learning (BLADE-FL): Performance Analysis and Resource Allocation

Jun Li, Yumeng Shao외 6명|arXiv (Cornell University)|2021. 01. 18.

Privacy-Preserving Technologies in Data인용 수 9

한 줄 요약

이 논문은 중앙집중식 FL에서의 단일 장애 지점 위험을 제거하기 위해 블록체인을 통합한 탈중앙화된 피어 투 피어 학습 프레임워크인 BLADE-FL을 제안한다. 클라이언트가 채굴과 국지적 모델 집계를 동시에 수행함으로써, 최적의 자원 할당을 통해 전역 손실의 볼록 상한을 최소화할 수 있으며, 실험 결과 MNIST 및 패션-MNIST 데이터셋에서 다양한 게으른 클라이언트 및 노이즈 조건 하에서 이론적 상한과 실제 결과 간의 격차가 5% 미만임을 보여준다.

ABSTRACT

Federated learning (FL), as a distributed machine learning paradigm, promotes personal privacy by local data processing at each client. However, relying on a centralized server for model aggregation, standard FL is vulnerable to server malfunctions, untrustworthy server, and external attacks. To address this issue, we propose a decentralized FL framework by integrating blockchain into FL, namely, blockchain assisted decentralized federated learning (BLADE-FL). In a round of the proposed BLADE-FL, each client broadcasts the trained model to other clients, aggregates its own model with received ones, and then competes to generate a block before its local training of the next round. We evaluate the learning performance of BLADE-FL, and develop an upper bound on the global loss function. Then we verify that this bound is convex with respect to the number of overall aggregation rounds K, and optimize the computing resource allocation for minimizing the upper bound. We also note that there is a critical problem of training deficiency, caused by lazy clients who plagiarize others' trained models and add artificial noises to disguise their cheating behaviors. Focusing on this problem, we explore the impact of lazy clients on the learning performance of BLADE-FL, and characterize the relationship among the optimal K, the learning parameters, and the proportion of lazy clients. Based on MNIST and Fashion-MNIST datasets, we show that the experimental results are consistent with the analytical ones. To be specific, the gap between the developed upper bound and experimental results is lower than 5%, and the optimized K based on the upper bound can effectively minimize the loss function.

연구 동기 및 목표

• 중앙집중식 피어 투 피어 학습(FL) 시스템에서의 단일 장애 지점 취약성을 해결하기 위해.
• 신뢰할 수 없는 피어 투 피어 모델 집계를 가능하게 하기 위해 블록체인을 활용한 탈중앙화 FL 프레임워크를 설계하기 위해.
• BLADE-FL에서 전역 손실 함수에 대한 이론적 상한을 도출하고, 이를 최소화하기 위해 자원 할당을 최적화하기 위해.
• 모델를 복제하거나 인위적 노이즈를 주입하는 '게으른 클라이언트'가 학습 성능에 미치는 영향을 조사하기 위해.
• MNIST 및 패션-MNIST에서 실험적으로 이론 모델을 검증하여 이론과 실질 결과 간의 높은 일치도를 확보하기 위해.

제안 방법

• 각 클라이언트에서 블록체인 채굴과 국지적 모델 학습을 통합한 단일 프로세스를 구현하여 중앙 서버 없이도 탈중앙화된 모델 집계를 가능하게 한다.
• 모델는 피어 투 피어 방식으로 방송되며, 각 클라이언트는 다음 학습 라운드 이전에 새로운 블록을 채굴하기 위한 경쟁을 수행한다.
• 전체 집계 라운드 수 $K$에 대해 전역 손실 함수의 볼록 상한을 유도함으로써 최적화 가능성을 확보한다.
• 최적 수렴을 위해 $K$를 조정함으로써 유도된 상한을 최소화하는 자원 할당 전략을 제안한다.
• 다른 이들의 모델를 복제하거나 인위적 노이즈를 주입하는 게으른 클라이언트의 영향을 분석하고, 이러한 행동 조건 하에서 수정된 상한을 도출한다.
• 가우스 노이즈를 통한 차별적 프라이버시를 활용하여 프라이버시-유용성 트레이드오프를 평가하였으며, 최적의 $K$가 프라이버시 예산 $\epsilon$에 영향을 받지 않음을 확인하였다.

실험 결과

연구 질문

• RQ1 중앙 서버 의존도를 제거하고 단일 장애 지점 위험을 방지하기 위해 어떻게 탈중앙화된 피어 투 피어 학습 시스템을 설계할 수 있는가?
• RQ2 제안된 BLADE-FL 프레임워크에서 전역 손실 함수에 대한 이론적 상한은 무엇이며, 집계 라운드 수 $K$에 대해 볼록한가?
• RQ3 모델를 복제하거나 노이즈를 주입하는 게으른 클라이언트의 존재가 BLADE-FL의 학습 성능에 어떤 영향을 미치는가?
• RQ4 손실 함수 상한을 최소화하는 최적의 집계 라운드 수 $K^*$는 무엇이며, 게으른 클라이언트 비율이나 노이즈 전력에 따라 어떻게 변화하는가?
• RQ5 이론적 상한 기반 최적 자원 할당이 실제 데이터셋에서의 실험 성능과 얼마나 일치하는가?

주요 결과

• 전역 손실 함수에 대한 이론적 상한은 총 집계 라운드 수 $K$에 대해 볼록하므로 효율적인 최적화가 가능하다.
• MNIST 및 패션-MNIST 데이터셋에서 이론적 상한과 실험 결과 간 격차가 항상 5% 이하로 유지된다.
• 게으른 클라이언트 비율($M/N$)이 증가할수록 최적의 학습 타임스텝이 증가한다. 예를 들어, MNIST에서 $M/N$이 0%에서 30%로 증가할 경우, 타임스텝은 30에서 50으로 상승한다.
• 인위적 노이즈 전력($\sigma^2$)이 높을수록 최적의 학습 타임스텝이 길어지며, $\sigma^2$가 0.01에서 0.3으로 증가함에 따라 $\tau\alpha K^*$는 30에서 50으로 증가한다.
• 차별적 프라이버시에서 최적의 자원 할당은 프라이버시 예산 $\epsilon$과 무관하므로, 프라이버시 보호는 최적의 자원 할당에 영향을 주지 않는다.
• 높은 프라이버시 예산($\epsilon$)은 더 높은 모델 정확도와 낮은 손실을 가져오지만, 프라이버시 보호 수준은 낮아지므로 명확한 유용성-프라이버시 트레이드오프가 확인된다.