[논문 리뷰] A Platform-Free Proof of Federated Learning Consensus Mechanism for Sustainable Blockchains

Yuntao Wang, Haixia Peng외 4명|arXiv (Cornell University)|2022. 08. 23.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

이 논문은 플랫폼이 없는 탈중앙화된 합의 기반 기반으로, PoW 채굴에서 낭비되는 에너지를 연합 학습(FL)에 재활용하는 PF-PoFL을 제안한다. 이는 채굴기 간에 안전하고 프라이버시를 보장하는 AI 모델 훈련을 가능하게 한다. 새로운 블록 구조, 신용 기반 인centive 메커니즘, 게임 이론 기반의 연합 형성 메커니즘을 통합함으로써 PF-PoFL은 완전 탐색 기반 최적해에 비해 2.1% 이내의 근접한 사회적 복지 수준을 달성하고, 비협력적 채굴 대비 최대 67% 높은 효율성을 확보한다.

ABSTRACT

Proof of work (PoW), as the representative consensus protocol for blockchain, consumes enormous amounts of computation and energy to determine bookkeeping rights among miners but does not achieve any practical purposes. To address the drawback of PoW, we propose a novel energy-recycling consensus mechanism named platform-free proof of federated learning (PF-PoFL), which leverages the computing power originally wasted in solving hard but meaningless PoW puzzles to conduct practical federated learning (FL) tasks. Nevertheless, potential security threats and efficiency concerns may occur due to the untrusted environment and miners' self-interested features. In this paper, by devising a novel block structure, new transaction types, and credit-based incentives, PF-PoFL allows efficient artificial intelligence (AI) task outsourcing, federated mining, model evaluation, and reward distribution in a fully decentralized manner, while resisting spoofing and Sybil attacks. Besides, PF-PoFL equips with a user-level differential privacy mechanism for miners to prevent implicit privacy leakage in training FL models. Furthermore, by considering dynamic miner characteristics (e.g., training samples, non-IID degree, and network delay) under diverse FL tasks, a federation formation game-based mechanism is presented to distributively form the optimized disjoint miner partition structure with Nash-stable convergence. Extensive simulations validate the efficiency and effectiveness of PF-PoFL.

연구 동기 및 목표

• 기존의 증명 방식(PoW) 블록체인에서 발생하는 막대한 에너지 낭비 문제를 해결하기 위해 계산 자원을 실용적인 AI 훈련에 재활용하는 것.
• 중앙 집중형 플랫폼이나 신뢰할 수 있는 중재자에 의존하지 않고도 탈중앙화되고 안전하며 프라이버시를 보장하는 연합 학습(FL)을 가능하게 하는 것.
• 이질적인 채굴기 특성(데이터 품질, 비독립 동일 분포도, 네트워크 지연)을 고려해 최적의 FL 성능을 달성하기 위해 자율적으로 최적의 풀로 구성되는 자기 조직화형 채굴기 풀 형성 메커니즘을 설계하는 것.
• 신뢰할 수 없는 환경에서 합의 효율성과 모델 품질을 유지하면서도 위조 및 시빌 공격에 강건성을 확보하는 것.

제안 방법

• FL 작업 외주, 모델 평가, 보상 배분을 블록체인 상에서 직접 지원하기 위해 새로운 블록 구조와 거래 유형을 도입한다.
• 탈중앙화된 FL 채굴 환경에서의 정직한 참여를 장려하고 합의 효율성을 향상시키기 위해 신용 기반 인centive 메커니즘을 적용한다.
• 채굴기 간의 연합 학습 훈련 과정에서 암묵적인 프라이버시 泄露를 방지하기 위해 사용자 수준의 차별적 프라이버시 메커니즘을 설계한다.
• 이질적인 특성(데이터 품질, 비독립 동일 분포도, 네트워크 지연)을 바탕으로 상호 배타적이고 최적화된 풀로 자율적으로 조직화할 수 있도록, 내쉬 안정성 수렴 특성을 가진 연합 형성 게임(FFG-TU)을 제안한다.
• 중앙 집중적 조율 없이도 재정 정산과 레거시 일관성을 유지하기 위해 모델 순위 계약과 블록 보상 계약을 적용한다.
• 다양한 FL 작업 요구사항과 채굴기의 이질성에 적응 가능한 동적 풀 형성 알고리즘을 적용하여 높은 사회적 복지와 낮은 블록 지연을 보장한다.

실험 결과

연구 질문

• RQ1 중앙 집중형 플랫폼이나 신뢰할 수 있는 중재자에 의존하지 않고도 PoW 채굴에서 낭비되는 에너지를 실용적인 연합 학습에 효과적으로 재활용할 수 있는가?
• RQ2 위조 및 시빌 공격에 저항할 수 있는 탈중앙화되고 안전하며 프라이버시를 보장하는 FL 합의 기반 기반을 어떻게 설계할 수 있는가?
• RQ3 다양한 데이터 품질, 비독립 동일 분포도, 네트워크 지연을 고려한 이질적인 FL 환경에서 상호 배타적인 채굴기 풀을 최적으로 형성하는 방법은 무엇인가?
• RQ4 신용 기반 인센티브와 게임 이론 기반 메커니즘이 자율적인 방식으로 안정적이고 효율적이며 내쉬 안정적인 풀 형성 구조를 확보하는 데에는 어떤 방식으로 기여하는가?
• RQ5 제안된 PF-PoFL 기반 기반은 완전 탐색 및 고정 풀링 기반 대비 근사 최적 사회적 복지 수준을 얼마나 달성할 수 있는가?

주요 결과

• 제안된 FFG-TU 게임은 7회 반복 후 완전 탐색 최적해에 비해 최대 2.1% 이내의 성능 격차를 보이며 근사 최적 사회적 복지 수준을 달성한다.
• 동일 조건에서 비협력적 채굴 방식 대비 PF-PoFL은 사회적 복지 수준을 최대 67% 향상시키며, [15]의 PoFL 방식 대비 17.6% 향상된다.
• 연합 형성 알고리즘이 7회 반복 후 내쉬 안정적인 상호 배타적 분할 구조로 수렴함으로써 안정적이고 효율적인 채굴기 자율 조직화를 입증한다.
• 반복당 스위치 작업 수는 |∑(h)| ≤ |ℑ(h)| + 1 범위로 제한되며, 이는 동적 풀 재구성 과정에서 알고리즘의 수렴성과 효율성을 확인한다.
• 시스템은 이질적인 훈련 조건에서도 낮은 블록 지연을 유지하며, UDP 보장을 통해 모델 성능을 보장한다.
• 사용자 수준의 차별적 프라이버시 메커니즘이 채굴기 간 연합 모델 훈련 과정에서 암묵적인 프라이버시 泄露를 효과적으로 방지한다.