[논문 리뷰] Estimation of Individual Device Contributions for Incentivizing Federated Learning

Takayuki Nishio, Ryoichi Shinkuma외 1명|arXiv (Cornell University)|2020. 09. 20.

Privacy-Preserving Technologies in Data참고 문헌 22인용 수 4

한 줄 요약

이 논문은 단일 플러딩 러닝(FL) 훈련 라운드 동안 모델 향상 지표를 활용하여 개인 기기 기여도를 계산 및 통신 비용이 적은 방식으로 추정하는 방법을 제안한다. 기존의 낭만적 방법에 비해 계산 오버헤드는 46–49% 감소시키고 통신 오버헤드는 0으로 줄였으며, MNIST 데이터셋에서 높은 추정 정확도를 유지한다.

ABSTRACT

Federated learning (FL) is an emerging technique used to train a machine-learning model collaboratively using the data and computation resource of the mobile devices without exposing privacy-sensitive user data. Appropriate incentive mechanisms that motivate the data and mobile-device owner to participate in FL is key to building a sustainable platform for FL. However, it is difficult to evaluate the contribution level of the devices/owners to determine appropriate rewards without large computation and communication overhead. This paper proposes a computation-and communication-efficient method of estimating a participating device's contribution level. The proposed method enables such estimation during a single FL training process, there by reducing the need for traffic and computation overhead. The performance evaluations using the MNIST dataset show that the proposed method estimates individual participants' contributions accurately with 46-49% less computation overhead and no communication overhead than a naive estimation method.

연구 동기 및 목표

• 기여도에 따라 공정하게 보상함으로써 이동 기기 소유자들이 플러딩 러닝에 참여하도록 유도하는 문제를 해결하기 위해.
• 높은 계산 또는 통신 오버헤드 없이 정확한 개별 기기 기여도를 추정하기 위해.
• 모든 클라이언트를 제거한 후에 다시 훈련하는 것을 피하기 위해 단일 FL 훈련 과정 동안 기여도 추정을 가능하게 하기 위해.
• 클라이언트 간 데이터 불균형과 비독립 동일분포(non-i.i.i.d.) 분포가 존재하더라도 추정 정확도를 유지하기 위해.
• 지속 가능한 FL 플랫폼을 위한 확장 가능하고 실용적인 인centive 메커니즘을 제공하기 위해.

제안 방법

• 해당 방법은 각 클라이언트의 업데이트가 글로벌 모델에 집계된 후 모델 정확도의 변화를 기반으로 한 단계별 향상 지표를 사용하여 기여도를 추정한다.
• 각 클라이언트의 모델 업데이트가 글로벌 모델에 추가될 때 모델 성능 향상의 마진널 증가를 측정하여 기여도 점수를 계산한다.
• 모델을 재학습하는 것을 피하기 위해 각 클라이언트를 제거한 후에 여러 번 훈련하는 것 없이 단일 FL 훈련 과정에서 추정을 수행한다.
• 계산 비용을 줄이기 위해 기울기 기반 기여도 추정을 통한 셰플리 값의 미분 가능 근사치를 사용한다.
• 표준 FL 훈련 외에 추가적인 모델 교환을 요구하지 않기 때문에 통신 오버헤드를 피한다.
• 표준 FL 대비 추가 계산 시간이 극히 적은(수백 마이크로초) 경량 설계를 하였다.

실험 결과

연구 질문

• RQ1 플러딩 러닝에서 개인 기기 기여도를 최소한의 계산 및 통신 오버헤드로 어떻게 추정할 수 있는가?
• RQ2 클라이언트 제거 후 재훈련이 필요 없이 단일 패assing FL 훈련 과정이 정확한 기여도 추정을 지원할 수 있는가?
• RQ3 제안된 방법은 반복적인 전체 FL 훈련이 필요한 낭만적 기준 방법에 비해 정확도와 효율성에서 어떻게 비교되는가?
• RQ4 데이터 다양성과 클래스 불균형은 기여도 추정에 어떤 영향을 미치며, 이 방법은 이러한 경우를 어떻게 처리하는가?
• RQ5 클라이언트가 소규모 또는 유일하지 않은 데이터 세트를 기여할 경우에도 이 방법은 높은 정확도를 유지할 수 있는가?

주요 결과

• 제안된 방법은 각 클라이언트 제거를 위해 전체 재훈련이 필요한 낭만적 방법에 비해 계산 오버헤드를 46–49% 감소시켰다.
• 기존 기준 방법과 달리 추가적인 통신 오버헤드가 전혀 발생하지 않았다.
• MNIST 데이터셋에서 제안된 방법은 기준 낭만적 방법과 유사한 기여도 점수 추정을 달성했으며, 클라이언트 데이터 크기가 클 경우 평균 오차가 1.80으로 매우 낮았다.
• 클라이언트 데이터가 작을 경우(예: 50개 샘플) 제안된 방법은 일부 히우리스틱보다 높은 오차(3.57)를 보였지만, 이는 소규모이고 다양한 데이터 기여의 불안정성 때문으로 기인되었다.
• 고유한 데이터를 기여한 클라이언트(예: 숫자 7–9)에게 더 높은 점수를 정확히 할당하고, 겹치는 데이터를 기여한 클라이언트에게는 낮은 점수를 할당함으로써 데이터 고유성에 민감하게 반응함을 입증했다.
• 표준 FL과 거의 동일한 계산 시간을 유지했으며, 기여도 추적으로 인한 추가적인 증가가 매우 미미하여 효율성을 확인했다.