[논문 리뷰] Zero-Knowledge Proof-based Practical Federated Learning on Blockchain

Zhibo Xing, Zijian Zhang외 5명|arXiv (Cornell University)|2023. 04. 12.

Privacy-Preserving Technologies in Data인용 수 8

한 줄 요약

이 논문은 제로지식 증명(ZKP) 기반 연합 학습(ZKP-FL) 및 PZKP-FL을 제시하며, 로컬 데이터를 보호하는 동시에 제로지식 증명과 블록체인을 통해 검증 가능한 학습을 가능하게 하는 방법을 다룬다. fractions와 비선형 연산의 실용적 처리 포함.

ABSTRACT

Since the concern of privacy leakage extremely discourages user participation in sharing data, federated learning has gradually become a promising technique for both academia and industry for achieving collaborative learning without leaking information about the local data. Unfortunately, most federated learning solutions cannot efficiently verify the execution of each participant's local machine learning model and protect the privacy of user data, simultaneously. In this article, we first propose a Zero-Knowledge Proof-based Federated Learning (ZKP-FL) scheme on blockchain. It leverages zero-knowledge proof for both the computation of local data and the aggregation of local model parameters, aiming to verify the computation process without requiring the plaintext of the local data. We further propose a Practical ZKP-FL (PZKP-FL) scheme to support fraction and non-linear operations. Specifically, we explore a Fraction-Integer mapping function, and use Taylor expansion to efficiently handle non-linear operations while maintaining the accuracy of the federated learning model. We also analyze the security of PZKP-FL. Performance analysis demonstrates that the whole running time of the PZKP-FL scheme is approximately less than one minute in parallel execution.

연구 동기 및 목표

• 로컬 계산의 공개 검증성과 글로벌 집계의 공개 검증 가능성과 함께 프라이버시를 보호하는 연합 학습의 동기를 제시한다.
• 로컬 데이터를 노출하지 않고 검증 가능한 학습 및 집계를 가능하게 한다.
• 실용적인 ML 모델을 위해 Fractional 값과 비선형 연산을 지원하도록 ZKP-FL을 확장한다.

제안 방법

• 학습 알고리즘을 zk-SNARKs (Groth16)에 적합한 산술 회로로 변환하고, 병렬 증명 생성을 위해 더 작은 서브 회로로 분할한다.
• 평문 입력이나 중간 출력 값을 노출하지 않고 로컬 학습의 정확성을 검증하기 위해 제로지식증명을 사용한다.
• 개인정보를 보호하는 방식으로 글로벌 집계를 검증하고 수행하기 위해 블록체인 스마트 계약에서 보안 합계 프로토콜을 활용한다.
• 산술 회로에서 Fraction-Integer 매핑과 Taylor 확장에서 영감을 얻은 접근법을 도입하여 Fractional 값과 비선형 연산을 처리한다.
• 데이터를 숨기고 일관성 점검을 위한 Sigma-프로토콜을 통해 서브 회로 간의 연속성을 보장하기 위해 Groth16 증명 생성 및 검증을 수정한다.

실험 결과

연구 질문

• RQ1 블록체인에서 공개적이고 프라이버시를 보호하는 방식으로 연합 학습을 어떻게 검증 가능하게 만들 수 있는가?
• RQ2 제로지식 증명이 로컬 데이터 노출 없이 로컬 학습의 정확성과 글로벌 집계를 모두 검증할 수 있는가?
• RQ3 zk-SNARK 기반 FL에서 Fractional 값과 비선형 연산을 어떻게 효과적으로 지원할 수 있는가?
• RQ4 블록체인에서 ZKP 기반 FL 시스템의 보안 및 성능 특성은 무엇인가?

주요 결과

• 제안된 ZKP-FL 방식은 로컬 계산의 공개 검증과 블록체인상의 안전한 집계를 가능하게 한다.
• Practical ZKP-FL (PZKP-FL) 방식은 Fraction-Integer 매핑과 Taylor-expansion과 유사한 기법을 이용해 분수 및 비선형 연산 처리를 확장한다.
• 학습을 다수의 서브 회로로 나눠 병렬 증명 생성을 지원하므로 효율이 향상된다.
• 보안 분석 및 실험은 PZKP-FL 방식의 실행 시간이 실험에서 대략 1분을 넘지 않는다는 것을 보여준다.