[논문 리뷰] Incentivizing Federated Learning

Shuyu Kong, You Li외 1명|arXiv (Cornell University)|2022. 05. 22.

Privacy-Preserving Technologies in Data인용 수 8

한 줄 요약

이 논문은 개인정보 보호 및 계산 비용으로 인해 클라이언트가 기여를 줄이는 문제를 해결하기 위해, 클라이언트의 데이터 기여도에 따라 더 나은 모델 성능을 보상으로 주는 비화폐 인cent리브 메커니즘을 제안한다. 이 메커니즘은 특정 조건 하에서 클라이언트가 가용한 모든 데이터를 기여하도록 보장하며, 성능 기반 모델 배포를 통해 클라이언트의 인cent리브를 최대 데이터 공유와 일치시킨다. 이론적으로 클라이언트가 자신의 데이터 기여가 글로벌 모델 품질에 미치는 경계적 영향이 충분히 높을 경우 기여를 최대로 하게 되는 것을 증명한다.

ABSTRACT

Federated Learning is an emerging distributed collaborative learning paradigm used by many of applications nowadays. The effectiveness of federated learning relies on clients' collective efforts and their willingness to contribute local data. However, due to privacy concerns and the costs of data collection and model training, clients may not always contribute all the data they possess, which would negatively affect the performance of the global model. This paper presents an incentive mechanism that encourages clients to contribute as much data as they can obtain. Unlike previous incentive mechanisms, our approach does not monetize data. Instead, we implicitly use model performance as a reward, i.e., significant contributors are paid off with better models. We theoretically prove that clients will use as much data as they can possibly possess to participate in federated learning under certain conditions with our incentive mechanism

연구 동기 및 목표

• 연합학습에서 개인정보 보호 및 계산 비용으로 인해 클라이언트가 기여를 줄이는 문제를 해결하기 위해.
• 화폐 보상 대신 향상된 모델 성능을 보상으로 사용하는 인센티브 메커니즘을 설계하기 위해.
• 특정 조건 하에서 클라이언트가 최대 기여량을 기여할 것임을 이론적으로 증명하기 위해.
• 글로벌 모델 성능과 클라이언트의 인센티브를 일치시켜 공정성과 지속 가능성을 확보하기 위해.

제안 방법

• 서버는 매 라운드마다 각 클라이언트의 모델 성능을 평가하고, 기여 품질에 따라 다른 글로벌 모델을 배포한다.
• 클라이언트는 더 높은 품질 또는 더 큰 양의 데이터 기여에 대해 향상된 모델을 보상으로 수신한다.
• 이 메커니즘은 모델 성능 향상과 훈련 비용, 개인정보 위험 간의 균형을 맞추는 유틸리티 함수를 사용한다.
• 더 많은 데이터를 기여하는 클라이언트일수록 더 나은 로컬 모델을 업로드할 것이라는 가정을 통해 데이터 양을 직접적으로 모델 품질과 연결한다.
• 이론적 분석은 글로벌 모델 성능 함수의 오목성과 개별 데이터 기여의 경계적 영향에 기반한다.
• 완전한 데이터 기여를 위한 핵심 조건은 글로벌 모델 성능이 클라이언트의 데이터 양에 대해 미분한 일阶도함수에서 유도된다.

실험 결과

연구 질문

• RQ1 연합학습에서 클라이언트가 화폐 보상 없이도 가용 가능한 최대 데이터를 기여할 조건은 무엇인가?
• RQ2 모델 성능을 비화폐 보상으로 사용해 연합학습에서 데이터 공유를 유도할 수 있는 방법은 무엇인가?
• RQ3 클라이언트가 무료로 기여하지 않고 최대 기여를 하도록 보장하는 이론적 조건은 무엇인가?
• RQ4 클라이언트의 데이터가 글로벌 모델 성능에 미치는 경계적 영향은 기여 동기에 어떤 영향을 미치는가?
• RQ5 성능 기반 모델 배포 전략이 모든 클라이언트가 완전히 기여하는 나시 균형(Nash equilibrium)을 달성할 수 있는가?

주요 결과

• 클라이언트의 데이터 기여로 인한 글로벌 모델 성능의 경계적 증가가 충분히 클 경우, 클라이언트는 가용한 모든 데이터를 기여하게 된다.
• 이 메커니즘은 바닐라 연합학습 대비 클라이언트가 항상 더 많은 데이터 기여를 유도하는 것으로 보장한다.
• 이론적 증명을 통해 글로벌 모델 성능이 클라이언트의 데이터 양에 대해 미분한 값이 충분히 클 경우, 완전한 데이터 기여가 나시 균형이 된다.
• 완전한 기여 조건은 훈련 비용 민감도 대비 성능 향상 비율과 데이터가 모델 품질에 미치는 경계적 영향에 따라 달라진다.
• 엄격한 오목성 가정이 없더라도 메커니즘이 효과를 발휘하나, 이론적 보장은 데이터 분포에 대한 일정한 규칙성 조건이 필요하다.
• 이 접근법은 정점 성능를 희생하여 더 강력한 인센티브를 확보하므로, 최고의 성능를 보이는 클라이언트가 바닐라 FL에서와 동일한 모델 품질을 달성하지 못할 수 있다.