[논문 리뷰] Incentivizing Data Contribution in Cross-Silo Federated Learning

Chao Huang, Ke, Shuqi외 3명|arXiv (Cornell University)|2022. 03. 08.

Privacy-Preserving Technologies in Data인용 수 7

한 줄 요약

이 논문은 개인정보 보호를 이유로 자유로운 이용을 방지하기 위해 데이터 기여도에 따라 재정적 보상을 부여하는 이익 분배 인cent리브 프레임워크를 제안한다. 게임 이론 모델을 사용하여, 이격 기여(LOO) 및 셰플리 값과 같은 메커니즘이 높은 품질의 데이터 공유를 효과적으로 유도함을 보여주며, 균형 상태에서 LOO가 가장 높은 전역 모델 정확도를 달성한다.

ABSTRACT

In cross-silo federated learning, clients (e.g., organizations) train a shared global model using local data. However, due to privacy concerns, the clients may not contribute enough data points during training. To address this issue, we propose a general incentive framework where the profit/benefit obtained from the global model can be appropriately allocated to clients to incentivize data contribution. We formulate the clients' interactions as a data contribution game and study its equilibrium. We characterize conditions for an equilibrium to exist, and prove that each client's equilibrium data contribution increases in its data quality and decreases in the privacy sensitivity. We further conduct experiments using CIFAR-10 and show that the results are consistent with the analysis. Moreover, we show that practical allocation mechanisms such as linearly proportional, leave-one-out, and Shapley-value incentivize more data contribution from clients with higher-quality data, in which leave-one-out tends to achieve the highest global model accuracy at equilibrium.

연구 동기 및 목표

• 기관들이 개인정보 우려로 인해 데이터를 공유하지 않는 자유의 주의 문제를 해결하기 위해.
• 클라이언트의 데이터 기여도에 따라 전역 모델의 수익을 분배하는 일반적인 인센티브 프레임워크를 설계하기 위해.
• 클라이언트의 이질성(데이터 품질, 데이터 용량, 개인정보 민감도)이 전략적 데이터 기여 결정에 미치는 영향을 분석하기 위해.
• 실용적인 이익 분배 메커니즘(예: LOO, 셰플리 값, 선형 비례)이 높은 품질의 데이터 기여를 얼마나 잘 유도하는지 평가하기 위해.
• 균형 존재 조건을 이론적으로 확립하고, 데이터 기여 게임에서의 균형 행동을 특성화하기 위해.

제안 방법

• 클라이언트 간 상호작용을 비협력적 데이터 기여 게임으로 모델링하여, 클라이언트가 개인적 유용성을 극대화하기 위해 전략적으로 데이터 기여 수준을 선택하도록 한다.
• 전역 모델 성능을 데이터 품질과 기여도의 함수로 모델링하며, 개인정보 민감도가 더 많은 데이터 기여의 마진 효용을 감소시킨다.
• 모델 성능 지표를 기반으로 산출된 기여 지수에 따라 훈련 후 수익을 분배하는 이익 분배 메커니즘을 도입한다.
• 이격 기여(LOO) 및 셰플리 값 방법을 사용하여 기여 지수를 계산함으로써 공정성과 전략적 강건성을 확보한다.
• 약한 조건 하에서 게임의 내쉬 균형을 계산하기 위한 최적 반응 알고리즘을 제안한다.
• CIFAR-10에서의 수치 실험을 통해 이론적 결과를 검증하며, 다양한 메커니즘과 클라이언트 이질성 하에서 전역 모델 정확도를 측정한다.

실험 결과

연구 질문

• RQ1 개인정보 우려가 존재하는 상황에서도 크로스실러 페더레이티드 러닝에서 클라이언트가 충분한 데이터를 기여하도록 유도하기 위해 이익 분배는 어떻게 구성되어야 하는가?
• RQ2 이질적인 클라이언트 간의 데이터 기여 게임에서 내쉬 균형 존재를 보장하는 조건은 무엇인가?
• RQ3 데이터 품질, 데이터 용량, 개인정보 민감도는 균형 상태에서의 데이터 기여 수준에 어떻게 영향을 미치는가?
• RQ4 선형 비례, 이격 기여(LOO), 또는 셰플리 값 중 어느 이익 분배 메커니즘이 높은 품질의 데이터 기여를 가장 잘 유도하는가?
• RQ5 다양한 메커니즘이 균형 상태에서의 최종 전역 모델 정확도에 어떤 영향을 미치는가?

주요 결과

• 약한 조건 하에서 데이터 기여 게임에 균형이 존재하며, 각 클라이언트의 균형 상태에서의 데이터 기여 수준은 데이터 품질과 데이터 용량이 높을수록 증가하지만, 개인정보 민감도가 높을수록 감소한다.
• 이격 기여(LOO) 메커니즘은 항상 총 데이터 기여 수준을 가장 높게 유지하며, 균형 상태에서 가장 높은 전역 모델 정확도를 달성하여, 동일 분배, 선형 비례, 셰플리 값 메커니즘을 모두 능가한다.
• 선형 비례(LP) 및 셰플리 값(SV) 메커니즘은 더 높은 품질의 데이터를 기여하는 클라이언트를 유도하지만, LOO만큼의 전역 성능을 달성하지 못한다.
• 클라이언트의 데이터 품질이 동일한 경우, LOO는 기여가 불균형해지며(소수의 고품질 클라이언트가 대부분 기여), 반면 LP 및 SV는 더 균형 잡힌 기여를 이끈다.
• 레이블 노이즈가 증가하고 개인정보 민감도가 높아질수록 전역 모델 정확도가 감소하며, 이는 모두 데이터 기여를 감소시키기 때문이다.
• LOO는 데이터 중복을 가장 효과적으로 탐지하고 억제한다. 중복된 데이터는 모델 성능에 기여가 적고, 따라서 이로 인한 수익 배분도 낮기 때문이다.