[논문 리뷰] PPBFL: A Privacy Protected Blockchain-based Federated Learning Model

Yang Li, Chunhe Xia외 2명|arXiv (Cornell University)|2024. 01. 02.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

PPBFL는 연합학습과 블록체인 및 차등 프라이버시를 결합하여 로컬 및 글로벌 모델 프라이버시를 보호하고, 참여를 유인하며, 노드 신원을 은폐합니다.

ABSTRACT

With the rapid development of machine learning and a growing concern for data privacy, federated learning has become a focal point of attention. However, attacks on model parameters and a lack of incentive mechanisms hinder the effectiveness of federated learning. Therefore, we propose A Privacy Protected Blockchain-based Federated Learning Model (PPBFL) to enhance the security of federated learning and encourage active participation of nodes in model training. Blockchain technology ensures the integrity of model parameters stored in the InterPlanetary File System (IPFS), providing protection against tampering. Within the blockchain, we introduce a Proof of Training Work (PoTW) consensus algorithm tailored for federated learning, aiming to incentive training nodes. This algorithm rewards nodes with greater computational power, promoting increased participation and effort in the federated learning process. A novel adaptive differential privacy algorithm is simultaneously applied to local and global models. This safeguards the privacy of local data at training clients, preventing malicious nodes from launching inference attacks. Additionally, it enhances the security of the global model, preventing potential security degradation resulting from the combination of numerous local models. The possibility of security degradation is derived from the composition theorem. By introducing reverse noise in the global model, a zero-bias estimate of differential privacy noise between local and global models is achieved. Furthermore, we propose a new mix transactions mechanism utilizing ring signature technology to better protect the identity privacy of local training clients. Security analysis and experimental results demonstrate that PPBFL, compared to baseline methods, not only exhibits superior model performance but also achieves higher security.

연구 동기 및 목표

• 로컬 데이터와 모델 매개변수를 보호하여 연합학습에 대한 추론 공격을 방지한다.
• 블록체인 기반 합의 메커니즘을 통해 로컬 학습 노드의 적극적인 참여를 유인한다.
• 모델 업데이트의 투명성과 추적 가능성을 유지하면서 로컬 학습 클라이언트의 신원 프라이버시를 보호한다.
• 블록체인을 통해 무결성을 유지하면서 저장 및 전송 비용을 줄이기 위해 IPFS를 활용한다.
• 모델 성능 저하 없이 프라이버시를 유지하기 위해 적응형 차등 프라이버시와 역 DP를 제안한다.

제안 방법

• 로컬/글로벌 모델을 CID로 저장하기 위해 프라이버시 보호 블록체인 프레임워크와 IPFS와 연합학습을 통합한다.
• 구성 효과를 상쇄하기 위해 로컬 모델과 글로벌 모델에 반대 방향으로 노이즈를 추가하기 위해 이중 적응 로컬 차등 프라이버시를 적용한다.
• 이전 글로벌 모델을 중심으로 가중치 업데이트를 배치하고 epsilon-LDP 보장을 유지하기 위해 노이즈를 조정하는 적응형 DP 체계를 도입한다.
• 거래 중로컬 학습 노드의 신원을 숨기기 위해 링 시그니처 기반 믹싱 CID 메커니즘을 사용한다.
• 집계 노드를 선택하고 참여를 유도하기 위해 연합에 민감한 합의로서 PoTW(Proof of Training Work)를 제안한다.
• 단일 거래에서 여러 CID를 집계하여 거래 익명성을 가능하게 하는 믹싱 CID 메커니즘을 구현한다.

실험 결과

연구 질문

• RQ1 PPBFL은 로컬 및 글로벌 모델 매개변수에 대한 추론 공격에 어떻게 방어할 수 있는가?
• RQ2 다수의 클라이언트가 있는 연합 설정에서 ε-LDP 보장을 유지하기 위해 차등 프라이버시를 어떻게 적응적으로 적용할 수 있는가?
• RQ3 투명한 블록체인 기반 FL 시스템에서 노드 신원 프라이버시를 어떻게 보호할 수 있는가?
• RQ4 로컬 학습 노드의 적극적 참여를 효과적으로 유도할 수 있는 인센티브 메커니즘은 무엇인가?

주요 결과

• PPBFL은 이중 적응 차등 프라이버시로 로컬 및 글로벌 모델 모두를 보호하여 더 높은 보안을 달성한다.
• IPFS CID 저장은 블록체인 저장 부담을 줄이고 블록체인을 통한 무결성 보장을 유지하면서 전송 효율을 향상시킨다.
• 링 서명 기반 믹싱 CID 메커니즘은 거래 중 로컬 노드 신원 프라이버시를 향상시킨다.
• 제안된 PoTW 합의는 학습 속도에 따라 집계 및 패키징에 인센티브를 제공하여 참여를 촉진한다.
• 보안 분석과 실험은 PPBFL이 기본선 대비 더 우수한 보안과 더 나은 모델 성능을 달성함을 시사한다.