[논문 리뷰] Incentive Mechanisms for Federated Learning: From Economic and Game Theoretic Perspective

Xuezhen Tu, Kun Zhu외 4명|arXiv (Cornell University)|2021. 11. 20.

Auction Theory and Applications인용 수 5

한 줄 요약

이 논문은 연합 학습(FL)에서 경제학적 및 게임 이론적 인센티브 메커니즘에 대한 종합적인 서베이를 제공하며, 공정성 인식, 프라이버시 보존, 다중 목표 설계를 통해 데이터 소유자가 자원 기여를 하도록 유도하는 방법을 분석한다. 경매 기반 메커니즘, 기여 평가를 위한 셰플리 값, 블록체인 및 강화 학습과의 통합을 검토하며, 다중 인센티브 체계와 적대적 공격에 대한 강건성에서의 열린 과제를 강조한다.

ABSTRACT

Federated learning (FL) becomes popular and has shown great potentials in training large-scale machine learning (ML) models without exposing the owners' raw data. In FL, the data owners can train ML models based on their local data and only send the model updates rather than raw data to the model owner for aggregation. To improve learning performance in terms of model accuracy and training completion time, it is essential to recruit sufficient participants. Meanwhile, the data owners are rational and may be unwilling to participate in the collaborative learning process due to the resource consumption. To address the issues, there have been various works recently proposed to motivate the data owners to contribute their resources. In this paper, we provide a comprehensive review for the economic and game theoretic approaches proposed in the literature to design various schemes for stimulating data owners to participate in FL training process. In particular, we first present the fundamentals and background of FL, economic theories commonly used in incentive mechanism design. Then, we review applications of game theory and economic approaches applied for incentive mechanisms design of FL. Finally, we highlight some open issues and future research directions concerning incentive mechanism design of FL.

연구 동기 및 목표

• 자원 비용과 인센티브 부족으로 인한 연합 학습의 저참여 문제를 해결하기 위해.
• 경제학적 및 게임 이론적 모델이 공정성, 효율성, 프라이버시 보존을 동시에 고려한 인센티브 메커니즘을 설계하는 방법을 검토하기 위해.
• 현재 접근 방식의 격차를 특정화하기 위해, 프라이버시 보호 부족, 단일 목표 최적화, 다양한 인센티브 유형 간 공존의 제한성 등을 포함한다.
• DRL, GNNs, 블록체인과 같은 첨단 기술이 FL의 인센티브 설계에 통합되는 방식을 탐색하기 위해.
• 다중 인센티브 체계, 적대적 강건성, 투명한 기여 평가에 대한 향후 연구의 비전을 제시하기 위해.

제안 방법

• 경제학적 및 게임 이론적 프레임워크를 사용하여 기존 FL 인센티브 메커니즘을 서베이하고 분류하기 위해.
• 참가자 선정 및 보상 배분을 위한 경매 메커니즘(예: 온라인 경매) 분석하기 위해.
• 공정성 확보를 위한 셰플리 값 기반 기여 평가 검토하기(효율적 추정 및 블록체인 기반 계산 보장 포함).
• 국소적 차별적 프라이버시를 사용하여 프라이버시 손실을 정량화하고 보상하는 프라이버시 보존 모델 검토하기 위해.
• FL 성능과 공정성을 동시에 최적화하는 다중 목표 인센티브 설계 평가하기 위해.
• DRL, GANs, 다중 에이전트 강화 학습이 인센티브 메커니즘 설계에 어떻게 통합되고 있는지 조사하기 위해.

실험 결과

연구 질문

• RQ1 경제학적 및 게임 이론적 모델을 어떻게 활용하여 FL에서 공정하고 효율적인 인센티브 메커니즘을 설계할 수 있는가?
• RQ2 프라이버시 보존과 공정성 확보를 동시에 고려할 때 참가자 기여 평가의 핵심 과제는 무엇인가?
• RQ3 다양한 참가자에게 맞춤화된 다중 인센티브 체계(예: 금전적, 비금전적)는 어떻게 공존할 수 있는가?
• RQ4 DRL 및 블록체인과 같은 첨단 기술이 인센티브 메커니즘의 투명성과 효율성을 향상시키는 데 어떤 역할을 할 수 있는가?
• RQ5 인센티브 기반 FL 시스템에서 적대적 행동과 프라이버시 泄露를 어떻게 완화할 수 있는가?

주요 결과

• 온라인 경매는 시장 기반 자원 거래를 가능하게 하여 FL에서 참가자 선정 및 보상 배분에 있어 유망한 솔루션으로 평가된다.
• 셰플리 값 기반 기여 평가 방식은 공정성을 보장하며, 연합 학습 환경에 맞게 연합 셰플리 값 및 기여 지수로 응용되었지만, 계산 비용이 여전히 과제로 남아 있다.
• 대규모 FL 환경에서 시간 복잡도를 줄이기 위해 계산 및 통신 효율적인 셰플리 값 추정 기법이 제안되었다.
• 블록체인 기반 셰플리 값 메커니즘은 기여 평가의 투명성을 향상시키고 독점적 행동을 감소시킨다.
• 기존 메커니즘은 종종 프라이버시 보호를 간과하며, 데이터 소유자가 입찰에서 지더라도 선호도를 공개하지만 보상 없이 기여할 수 있다.
• 현재 인센티브 체계는 일반적으로 단일 목표(예: 성능 또는 공정성) 최적화에 치중되어 있으나, 참가자 선정, 기여 평가, 공정성의 통합 최적화가 종합적인 향상을 위해 필요하다.