[논문 리뷰] Online Auction-Based Incentive Mechanism Design for Horizontal Federated Learning with Budget Constraint

Jingwen Zhang, Yuezhou Wu외 1명|arXiv (Cornell University)|2022. 01. 22.

Privacy-Preserving Technologies in Data인용 수 9

한 줄 요약

이 논문은 고정된 예산 내에서 실시간으로 도착하는 작업자들을 선정하여 높은 품질의 모델 훈련을 보장하는 온라인 역auction 기반 인cent리브 메커니즘을 제안한다. 이 메커니즘은 신뢰도와 입찰 가격을 활용하여 시간 및 비용 진실성(Truthfulness)을 확보하면서도 높은 모델 정확도를 유지한다. 실험 평가에서 기준선 대비 온라인 및 오프라인 방법을 모두 능가한다.

ABSTRACT

Federated learning makes it possible for all parties with data isolation to train the model collaboratively and efficiently while satisfying privacy protection. To obtain a high-quality model, an incentive mechanism is necessary to motivate more high-quality workers with data and computing power. The existing incentive mechanisms are applied in offline scenarios, where the task publisher collects all bids and selects workers before the task. However, it is practical that different workers arrive online in different orders before or during the task. Therefore, we propose a reverse auction-based online incentive mechanism for horizontal federated learning with budget constraint. Workers submit bids when they arrive online. The task publisher with a limited budget leverages the information of the arrived workers to decide on whether to select the new worker. Theoretical analysis proves that our mechanism satisfies budget feasibility, computational efficiency, individual rationality, consumer sovereignty, time truthfulness, and cost truthfulness with a sufficient budget. The experimental results show that our online mechanism is efficient and can obtain high-quality models.

연구 동기 및 목표

• 작업자가 순차적으로 도착함에 따라 오프라인으로 작업자 선택을 전제로 하는 기존 페더레이티드 러닝 인센티브 메커니즘의 격차를 보완하기 위해.
• 작업자 게시자가 고정된 예산을 준수하면서도 도착하는 순서에 따라 고품질 작업자를 동적으로 선택할 수 있는 온라인 인센티브 메커니즘을 설계하기 위해.
• 선택 과정에서 데이터 품질과 신뢰성의 지표로 작업자 신뢰도를 통합하기 위해.
• 온라인 도착 조건 하에서 예산 타당성, 개인 합리성, 진실성 등의 핵심 경제적 성질을 확보하기 위해.
• 모델 정확도, 유틸리티, 효율성 측면에서 오프라인 및 온라인 기준선 대비 메커니즘의 성능을 평가하기 위해.

제안 방법

• FL 작업은 다수의 글로벌 반복 단계로 나뉘며, 작업자들은 서로 다른 시간 단계에 도착하고 각 반복 단계에 대한 비용을 나타내는 밀봉된 입찰을 제출한다.
• 첫 번째 시간 단계에서 게시자는 오프라인 비례 배분 메커니즘을 사용하여 입찰 및 신뢰도를 바탕으로 작업자를 선정한다.
• 후속 시간 단계에서는 도착한 작업자를 두 그룹으로 나누어 상호 샘플링을 통해 지불 밀도 기준을 추정한다.
• 다른 그룹에서 유도된 지불 밀도 기준 이하일 경우, 단위 신뢰도 입찰 가격(Bid/Reputation)이 낮은 작업자들이 선정된다.
• 메커니즘은 도착 시간 보고의 진실성(시간 진실성)을 유도하기 위해 시간 기반의 보상 구조를 도입하고, 기준 기반 선정을 통해 비용 진실성도 보장한다.
• 이론적 분석을 통해 충분한 예산 조건 하에서 예산 타당성, 계산 효율성, 개인 합리성, 소비자 주권, 시간 진실성, 비용 진실성이 모두 만족됨을 증명한다.

실험 결과

연구 질문

• RQ1 실시간으로 도착하는 작업자들을 고정된 예산 내에서 동적으로 선정할 수 있는 온라인 역auction 메커니즘을 수평적 페더레이티드 러닝에 적용할 수 있는가?
• RQ2 직접적인 데이터 공유 없이 작업자 신뢰도를 어떻게 효과적으로 활용하여 데이터 품질과 신뢰성을 추론할 수 있는가?
• RQ3 제안된 메커니즘이 작업자들이 진짜 도착 시간과 비용을 보고하도록 보장하여 진실성(Truthfulness)을 확보하는가?
• RQ4 모델 정확도와 게시자 유틸리티 측면에서 온라인 메커니즘의 성능이 오프라인 기준선 대비 어떻게 비교되는가?
• RQ5 예산 규모와 작업자 수의 변화가 고품질 작업자 선정 능력과 모델 품질 유지 능력에 미치는 영향은 무엇인가?

주요 결과

• 제안된 온라인 메커니즘은 비용 진실성과 시간 진실성을 확보하여 작업자들이 진짜 비용과 도착 시간을 보고하도록 유인한다.
• 메커니즘은 높은 모델 정확도를 유지하며, MNIST에서는 전역 모델 손실이 0.4393, Fashion MNIST에서는 1.1162를 기록하여 오프라인 최적 기준(0.4389 및 1.1376)과 매우 유사하다.
• 모든 데이터 정확도가 완벽한(1.0) 작업자 비율이 MNIST와 Fashion MNIST 모두에서 100%를 유지하여 고품질 참가자의 효과적인 선정을 확인한다.
• 베이직 FL 및 비드 그레디 기준선 대비 단위 지불당 게시자 유틸리티가 유의미하게 높으며, 오프라인 RRAFL 및 비례 배분 메커니즘과 유사한 성능을 보인다.
• 다양한 작업자 수와 예산 수준에서도 강건하게 작동하며, 온라인 조건에서도 모델 품질 저하가 최소한으로 나타난다.
• 실험 결과는 메커니즘이 실시간 동적 작업자 선정 환경에서 예산 제약, 진실성, 모델 성능 간 효과적인 균형을 이루고 있음을 확인한다.