[논문 리뷰] Loss Tolerant Federated Learning

Pengyuan Zhou, Pei Fang외 1명|arXiv (Cornell University)|2021. 05. 08.

Privacy-Preserving Technologies in Data참고 문헌 16인용 수 8

한 줄 요약

이 논문은 손실에 강건한 분산 학습(LT-FL)을 제안하며, 패킷 손실을 의도적으로 忽略하는 ThrowRightAway(TRA) 기법을 사용하여 저대역폭 클라이언트가 학습에 참여할 수 있도록 하면서도 모델 정확도와 공정성을 유지한다. TRA는 q-FedAvg 및 pFedMe와 같은 공정성 인식 알고리즘과 조합될 때, 특히 10–30% 패킷 손실 조건에서 임계값 기반 방법 대비 최대 20% 향상된 글로벌 모델 성능을 달성한다.

ABSTRACT

Federated learning has attracted attention in recent years for collaboratively training data on distributed devices with privacy-preservation. The limited network capacity of mobile and IoT devices has been seen as one of the major challenges for cross-device federated learning. Recent solutions have been focusing on threshold-based client selection schemes to guarantee the communication efficiency. However, we find this approach can cause biased client selection and results in deteriorated performance. Moreover, we find that the challenge of network limit may be overstated in some cases and the packet loss is not always harmful. In this paper, we explore the loss tolerant federated learning (LT-FL) in terms of aggregation, fairness, and personalization. We use ThrowRightAway (TRA) to accelerate the data uploading for low-bandwidth-devices by intentionally ignoring some packet losses. The results suggest that, with proper integration, TRA and other algorithms can together guarantee the personalization and fairness performance in the face of packet loss below a certain fraction (10%-30%).

연구 동기 및 목표

• 크로스디바이스 분산 학습에서 네트워크 용량 제약이 과대평가되고 있는지, 그리고 임계값 기반 클라이언트 선택이 편향을 유발하는지 조사한다.
• 편향된 클라이언트 선택이 분산 학습에서 공정성, 정확도, 개인화에 악영향을 미치는 부정적 영향을 해결한다.
• 패킷 손실에도 불구하고 저대역폭 클라이언트의 참여를 가능하게 하는 손실 내성 메커니즘인 TRA(ThrowRightAway)를 제안하고 평가한다.
• 실제 네트워크 조건에서 성능을 향상시키기 위해 TRA를 최신 집계, 공정성, 개인화 알고리즘과 통합한다.
• TRA가 글로벌 모델 정확도와 공정성을 향상시키면서도 개인화 모델 성능에 미치는 영향을 최소화할 수 있음을 입증한다.

제안 방법

• 실제 네트워크 트레이스를 기반으로 한 분석을 통해 패킷 손실이 분산 학습에 미치는 실제 영향을 평가한다.
• 저대역폭 디바이스에서 데이터 업로드를 가속화하기 위해 손실된 패킷을 의도적으로 기각하는 TRA(ThrowRightAway) 기법을 제안한다.
• 남아 있는 패킷을 기반으로 경량 재계산을 수행함으로써 손실된 데이터를 보완할 수 있도록 집계 알고리즘을 수정한다.
• TRA를 q-FedAvg와 통합하여 α-공정성 재가중 기법을 적용함으로써 패킷 손실이 많은 클라이언트에 우선순위를 부여해 TRA의 영향을 완화한다.
• TRA를 pFedMe와 결합함으로써 글로벌 모델 성능를 유지하면서도 개인화 모델 정확도에 약간의 하락을 수용한다.
• 오픈소스 코드베이스를 활용해 조합 알고리즘을 구현하고, 합성 및 실제 시나리오에서의 성능을 검증한다.

실험 결과

연구 질문

• RQ1 분산 학습에서 네트워크 용량 제약이 실제 패킷 손실에 의한 성능 저하 측면에서 과대평가되고 있는가?
• RQ2 임계값 기반 클라이언트 선택이 분산 학습에서 공정성, 정확도, 개인화에 미치는 부정적 영향은 무엇인가?
• RQ3 TRA를 통한 의도적 패킷 손실 내성은 전체 시스템 신뢰성에 영향을 주지 않으면서도 모델 성능과 공정성을 향상시킬 수 있는가?
• RQ4 TRA가 공정성 인식 알고리즘(q-FedAvg 등) 및 개인화 인식 알고리즘(pFedMe 등)과 통합되었을 때의 성능은 어떠한가?
• RQ5 다양한 패킷 손실률에서 TRA를 사용할 경우 글로벌 모델 정확도와 개인화 모델 정확도 사이의 상충 관계는 어떠한가?

주요 결과

• TRA-q-FedAvg는 임계값 기반 설정에서 pFedMe 대비 최대 20% 높은 글로벌 모델 정확도를 기록하며, 특히 10–30% 패킷 손실 조건에서 유의미한 향상이 있다.
• 70%의 유효 클라이언트가 있는 Synthetic(2,2) 환경에서, TRA-q-FedAvg는 평균 정확도 69.72%를 기록했고, 편향된 q-FedAvg는 62.34%를 기록했으며, 최고/최악 비율은 각각 100%/9.81%였다.
• TRA-pFedMe는 평균적으로 1% 높은 개인화 모델 정확도를 유지하면서도 표준 pFedMe 대비 최대 20% 향상된 글로벌 모델 정확도를 달성한다.
• 10% 패킷 손실 조건에서 TRA-q-FedAvg는 평균 정확도 61.63%를 기록했고, 최고/최악 비율은 100%/6.01%였다. 이는 편향된 q-FedAvg(평균 55.00%, 최고/최악 비율 100%/0)를 능가하는 성능을 보였다.
• pFedMe와 조합했을 때 TRA의 성능는 하이퍼파rameter에 민감하게 영향을 받는 것으로 나타나, 향후 최적화가 필요하다.
• TRA만으로는 패킷 손실 조건에서 FedAvg 성능을 향상시키지 못함을 확인했으며, 이는 재가중 기법(예: q-FedAvg)이 보완을 위해 필수적임을 시사한다.