[논문 리뷰] Incentive Mechanism Design for Joint Resource Allocation in Blockchain-based Federated Learning

Zhilin Wang, Qin Hu외 3명|arXiv (Cornell University)|2022. 02. 18.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

이 논문은 블록체인 기반 연합 학습(BCFL)에서 클라이언트가 공유된 장치를 사용하여 모델을 동시에 학습하고 블록을 채굴하는 공동 자원 할당을 위한 인센티브 메커니즘을 제안한다. 완전하지 않은 정보 하에서 훈련 및 채굴 자원 할당을 최적화하기 위해 셰플리 값 기반 보상과 함께 이중 단계 스택엘베르크 게임을 사용하여 공정하고 유틸리티 최적화 전략을 통해 모델 성능 향상과 클라이언트 참여를 달성한다.

ABSTRACT

Blockchain-based federated learning (BCFL) has recently gained tremendous attention because of its advantages such as decentralization and privacy protection of raw data. However, there has been few research focusing on the allocation of resources for clients in BCFL. In the BCFL framework where the FL clients and the blockchain miners are the same devices, clients broadcast the trained model updates to the blockchain network and then perform mining to generate new blocks. Since each client has a limited amount of computing resources, the problem of allocating computing resources into training and mining needs to be carefully addressed. In this paper, we design an incentive mechanism to assign each client appropriate rewards for training and mining, and then the client will determine the amount of computing power to allocate for each subtask based on these rewards using the two-stage Stackelberg game. After analyzing the utilities of the model owner (MO) (i.e., the BCFL task publisher) and clients, we transform the game model into two optimization problems, which are sequentially solved to derive the optimal strategies for both the MO and clients. Further, considering the fact that local training related information of each client may not be known by others, we extend the game model with analytical solutions to the incomplete information scenario. Extensive experimental results demonstrate the validity of our proposed schemes.

연구 동기 및 목표

• 공유된 장치에서 클라이언트가 동시에 모델 학습과 블록체인 채굴을 수행하는 BCFL 환경에서 자원 할당 문제를 해결하기 위해.
• 클라이언트의 모델 학습 및 채굴 기여도에 기반해 공정하게 보상을 지급하는 인센티브 메커니즘을 설계하기 위해.
• 클라이언트의 현지 훈련 데이터 및 능력이 시스템에 알려져 있지 않은 불완전한 정보 환경에서도 최적의 자원 할당을 가능하게 하기 위해.
• 순차적인 이중 단계 스택엘베르크 게임 프레임워크를 통해 모델 소유자와 클라이언트의 유틸리티를 극대화하기 위해.
• 클라이언트의 인centives를 시스템 전체 성능 목표와 일치시켜 지속 가능하고 효율적인 BCFL 운영을 보장하기 위해.

제안 방법

• 모델 소유자(리더)가 보상을 설정하고 클라이언트(팔로워)가 이러한 인centives에 기반해 자원 할당을 선택하는 이중 단계 스택엘베르크 게임을 수립한다.
• 각 클라이언트의 모델 학습 기여도를 공정하게 평가하기 위해 셰플리 값을 적용하여 보상 배분 및 제약 조건 설계에 활용한다.
• 게임를 두 개의 순차적 최적화 문제로 변환한다: 하나는 모델 소유자의 보상 설계 문제이고, 다른 하나는 클라이언트의 자원 할당 결정 문제이다.
• 완전한 정보 및 불완전한 정보 상황에서 최적화 문제를 해결하기 위해 라그랑주 스탁스 및 카우시-쿠른-터커(KKT) 조건을 사용한다.
• 불완전한 정보 모델에서 클라이언트당 총 자원 사용을 제한하는 수정된 제약 조건을 도입하여 타당성과 공정성을 확보한다.
• 완전한 정보 및 불완전한 정보 상황에서 최적의 훈련 및 채굴 파wr 할당을 위한 분석적 해를 유도하였으며, 광범위한 실험을 통해 검증하였다.

실험 결과

연구 질문

• RQ1 BCFL 환경에서 공유된 클라이언트 장치에서 계산 자원을 모델 학습과 블록체인 채굴 간에 공동으로 어떻게 할당할 수 있는가?
• RQ2 탈중앙화된 BCFL 환경에서 클라이언트의 기여도에 기반해 공정하고 효율적인 보상 배분을 보장하는 인센티브 메커니즘은 무엇인가?
• RQ3 시스템이 클라이언트의 현지 데이터 및 계산 능력에 대해 완전한 정보를 확보하지 못할 경우 최적의 자원 할당은 어떻게 달성할 수 있는가?
• RQ4 불완전한 정보가 BCFL에서 인센티브 메커니즘의 안정성과 성능에 미치는 영향은 무엇인가?
• RQ5 제안된 이중 단계 스택엘베르크 게임 프레임워크는 기준 대비 시스템 유틸리티와 클라이언트 참여를 어떻게 향상시키는가?

주요 결과

• 제안된 인센티브 메커니즘은 모델 소유자와 클라이언트 간의 상호작용을 이중 단계 스택엘베르크 게임으로 모델링하여 최적의 자원 할당을 달성한다.
• KKT 조건을 사용하여 완전한 정보 및 불완전한 정보 상황에서 최적의 훈련 및 채굴 파워 할당을 위한 분석적 해를 도출하였다.
• 셰플리 값 기반 보상 메커니즘은 기여도를 공정하게 평가하며, 이는 클라이언트 최적화 문제의 제약 조건에 직접적인 영향을 미친다.
• 실제 제약 조건 하에서 유틸리티 극대화를 통해 시스템 성능 향상과 클라이언트 참여 증가를 입증하였다.
• 광범위한 실험을 통해 제안된 기법이 모델 정확도 향상과 시스템 지속 가능성 향상에 효과적임을 검증하였다.
• 자원 사용을 제한하는 경계 조건을 통합함으로써 불완전한 정보 상황에서도 높은 성능 유지를 달성하였으며, 이는 타당성과 공정성을 보장한다.