[논문 리뷰] Mechanisms that Incentivize Data Sharing in Federated Learning

Sai Praneeth Karimireddy, Wenshuo Guo외 1명|arXiv (Cornell University)|2022. 07. 10.

Privacy-Preserving Technologies in Data인용 수 14

한 줄 요약

이 논문은 계약 이론에 영감을 받은 메커니즘을 제안하여 개인의 기여도에 따라 모델 정확도를 조작함으로써 연합 학습에서 데이터 공유를 유도하고, 금전적 지급 없이도 무료 승차를 방지한다. 이는 알려진 및 알려지지 않은 에이전트 비용 상황에서 최적의 정확도 조작이 전체 데이터 생성을 극대화함으로써 균형 상태에서 완전한 협업을 달성함을 증명한다.

ABSTRACT

Federated learning is typically considered a beneficial technology which allows multiple agents to collaborate with each other, improve the accuracy of their models, and solve problems which are otherwise too data-intensive / expensive to be solved individually. However, under the expectation that other agents will share their data, rational agents may be tempted to engage in detrimental behavior such as free-riding where they contribute no data but still enjoy an improved model. In this work, we propose a framework to analyze the behavior of such rational data generators. We first show how a naive scheme leads to catastrophic levels of free-riding where the benefits of data sharing are completely eroded. Then, using ideas from contract theory, we introduce accuracy shaping based mechanisms to maximize the amount of data generated by each agent. These provably prevent free-riding without needing any payment mechanism.

연구 동기 및 목표

• 합리적인 에이전트들이 기여하는 다른 이들의 데이터를 이롭게 이용하면서도 자신의 데이터를 공유하지 않는 연합 학습에서의 무료 승차 문제를 해결하기 위해.
• 금전적 이전에 의존하지 않고도 총 데이터 생성을 극대화하기 위해 메커니즘을 설계하기 위해.
• 비용-정확도 트레이드오프를 고려한 원칙-에이전트 프레임워크를 사용하여 데이터 극대화 인센티브 문제를 체계화하기 위해.
• 에이전트 비용에 대한 정보가 완전하거나 부분적으로 알려진 상황에서 최적의 정확도 조작 메커니즘을 유도하기 위해.
• 비용이 적절한 인센티브를 통해 공유될 경우, 어려운 학습 과제에 대해 협업 학습이 경제적으로 실현 가능해지는 조건을 밝혀내기 위해.

제안 방법

• 에이전트들이 데이터를 생성하기 위해 비용을 부담하고, 모델 정확도에서 비용을 뺀 값을 극대화하고자 하는 원칙-에이전트 모델을 수립한다.
• 에이전트의 데이터 기여도를 모델 정확도로 매핑하는 정확도 조작 메커니즘을 도입하며, 조각별 선형 함수를 사용한다.
• 알려진 비용 상황에서 고비용 및 저비용 기여자의 균형을 균형 잡기 위해 변분법을 사용하여 최적 메커니즘을 유도한다.
• 최적 메커니즘이 고비용 에이전트에 대해 기울기를 $\bar{c}$, 저비용 에이전트에 대해 $\underaccent{\bar}{c}$로 설정하여 인cent라이브 호환성을 확보함을 입증한다.
• 비용이 알려지지 않은 경우, 진실된 비용을 신고하도록 유도하는 진실 보고 메커니즘을 설계하며, 정보 리드를 수용한다.
• 기하학적 논증을 통해 최적 메커니즘이 도출된 조각별 선형 구조를 따라야 한다고 증명한다.

실험 결과

연구 질문

• RQ1 금전적 지급 없이 연합 학습에서 무료 승차를 어떻게 방지할 수 있는가?
• RQ2 합리적인 에이전트로부터 최대 데이터 기여를 보장하는 메커니즘 설계 원칙은 무엇인가?
• RQ3 에이전트 비용이 알려져 있을 경우, 모델 정확도 조작이 균형 상태에서의 데이터 기여에 어떤 영향을 미치는가?
• RQ4 비용이 비공개 정보일 경우, 진실된 비용 보고를 어떻게 유도할 수 있는가?
• RQ5 개인 학습 대비 협업 학습이 경제적으로 실현 가능해지는 조건은 무엇인가?

주요 결과

• 조건부 모델 공유가 없는 난이도 높은 연합 학습 설정은 균형 상태에서 에이전트가 데이터를 기여하지 않는 악성 무료 승차를 초래한다.
• 비용이 알려져 있을 경우, 최적의 정확도 조작 메커니즘은 개인의 인센티브를 체계적 데이터 극대화와 일치시킴으로써 완전한 데이터 기여를 달성한다.
• 최적 메커니즘은 고비용 에이전트에 대해 기울기가 $\bar{c}$, 저비용 에이전트에 대해 기울기가 $\underaccent{\bar}{c}$인 조각별 선형 정확도 곡선을 사용한다.
• 비용이 알려지지 않은 경우, 메커니즘은 기대 데이터 기여도와 정보 리드 사이의 트레이드오프를 제공함으로써 진실된 비용 보고를 유도한다.
• 정확도 곡선의 도함수가 각 지점에서 마진 비용과 일치할 때 균형 상태에서의 데이터 기여가 극대화되며, 이는 인센티브 호환성을 보장한다.
• 이 프레임워크는 비용이 적절히 설계된 인센티브를 통해 공유될 경우, 어려운 학습 과제에 대해 협업이 경제적으로 실현 가능하다는 것을 증명한다.