[논문 리뷰] A Comprehensive Survey of Incentive Mechanism for Federated Learning

Rongfei Zeng, Chao Zeng외 3명|arXiv (Cornell University)|2021. 06. 27.

Privacy-Preserving Technologies in Data참고 문헌 52인용 수 59

한 줄 요약

한 체계적 연구 검토로서 페더레이티드 러닝의 인센티브 메커니즘을 다루며 문제 정의, 분류 체계, 주요 기법(Shapley value, Stackelberg 게임, 경매, 계약, RL, 블록체인) 및 향후 방향을 상세히 제시한다.

ABSTRACT

Federated learning utilizes various resources provided by participants to collaboratively train a global model, which potentially address the data privacy issue of machine learning. In such promising paradigm, the performance will be deteriorated without sufficient training data and other resources in the learning process. Thus, it is quite crucial to inspire more participants to contribute their valuable resources with some payments for federated learning. In this paper, we present a comprehensive survey of incentive schemes for federate learning. Specifically, we identify the incentive problem in federated learning and then provide a taxonomy for various schemes. Subsequently, we summarize the existing incentive mechanisms in terms of the main techniques, such as Stackelberg game, auction, contract theory, Shapley value, reinforcement learning, blockchain. By reviewing and comparing some impressive results, we figure out three directions for the future study.

연구 동기 및 목표

• 페더레이티드 러닝에서의 인센티브 문제와 FL 성능 개선 목표를 식별한다.
• 설정, 단계 및 기법에 걸친 FL 인센티브 체계의 포괄적 분류 체계를 제공한다.
• 주된 기법과 하위 문제별로 기존 메커니즘을 요약하되 기여 평가, 노드 선택, 보상에 중점을 둔다.
• 향후 연구를 돕기 위한 가정, 장점 및 한계를 강조한다.

제안 방법

• 다차원 기여와 모델 소유자 보상으로 FL의 인센티브 메커니즘 정의.
• 적용 설정, FL 단계, 주요 기법, 하위 문제 및 정보 대칭성에 따라 인센티브 체계 분류.
• Shapley value, Stackelberg 게임, 경매, 계약 이론, 강화 학습, 블록체인 및 기타 접근법을 활용한 메커니즘 검토.
• IC, IR, 공정성, PE, CR, BB와 같은 특성을 논의하고 FL의 핵심으로서 Performance Improvement (PI)를 도입.
• 예시를 제공하고 계산적/프라이버시 이슈를 논의하며 대표 연구들을 비교.

실험 결과

연구 질문

• RQ1 연합 학습에서 효과적인 인센티브 메커니즘이 무엇이며 그것이 FL 성능에 어떤 영향을 미치는가?
• RQ2 교차 기기 및 교차 실로 설정에서 FL 인센티브 체계는 어떻게 구성되며 서로 다른 하위 문제(기여 평가, 노드 선택, 보상 할당)에서 어떤 기법이 가장 효과적인가?
• RQ3 기존 체계가 의존하는 정보 대칭성 가정은 무엇이며 실용성 및 견고성에 대한 함의는 무엇인가?
• RQ4 FL 인센티브 설계의 주요 향후 방향과 공개적 과제는 무엇인가?

주요 결과

• Shapley value는 기여도 평가에 널리 사용되지만 계산 비용이 높고 다양한 근사 방법이 제안되어 있다.
• Stackelberg 게임과 경매는 FL에서 리더-팔로워 보상 및 자원 할당 문제에 일반적으로 사용된다.
• 계약 이론, 명성 시스템 및 블록체인은 정보 비대칭성, 신뢰성 및 견고성을 다루기 위해 사용된다.
• 강화 학습은 부분 정보 하에서 동적 전략 적응 메커니즘을 제공한다.
• 프로토타입 스킴은 잘 설계된 인센티브를 사용하면 FL 학습 시간 및 모델 정확도 향상을 보여준다.
• 향후 연구는 학습 성능, MEC/5G/IoT 제약 및 교차 실로 FL 인센티브에 초점을 맞춰야 한다.