[논문 리뷰] Zero-Knowledge Proof-based Verifiable Decentralized Machine Learning in Communication Network: A Comprehensive Survey

Zhibo Xing, Zijian Zhang외 9명|arXiv (Cornell University)|2023. 10. 23.

Adversarial Robustness in Machine Learning인용 수 11

한 줄 요약

이 논문은 제로지식 증명 기반 검증 가능한 기계학습(ZKP-VML)에 대한 포괄적 조사를 제공하며, 개념을 정의하고 기존 체계를 검토하며 도전과 향후 방향을 제시한다.

ABSTRACT

Over recent decades, machine learning has significantly advanced network communication, enabling improved decision-making, user behavior analysis, and fault detection. Decentralized approaches, where participants exchange computation results instead of raw private data, mitigate these risks but introduce challenges related to trust and verifiability. A critical issue arises: How can one ensure the integrity and validity of computation results shared by other participants? Existing survey articles predominantly address security and privacy concerns in decentralized machine learning, whereas this survey uniquely highlights the emerging issue of verifiability. Recognizing the critical role of zero-knowledge proofs in ensuring verifiability, we present a comprehensive review of Zero-Knowledge Proof-based Verifiable Machine Learning (ZKP-VML). To clarify the research problem, we present a definition of ZKP-VML consisting of four algorithms, along with several corresponding key security properties. Besides, we provide an overview of the current research landscape by systematically organizing the research timeline and categorizing existing schemes based on their security properties. Furthermore, through an in-depth analysis of each existing scheme, we summarize their technical contributions and optimization strategies, aiming to uncover common design principles underlying ZKP-VML schemes. Building on the reviews and analysis presented, we identify current research challenges and suggest future research directions. To the best of our knowledge, this is the most comprehensive survey to date on verifiable decentralized machine learning and ZKP-VML.

연구 동기 및 목표

• 제로지식 증명 기반 검증 가능한 기계학습(ZKP-VML)과 그 신뢰 가능한 위탁 및 연합 학습에 대한 중요성을 소개한다.
• ML 맥락에서 ZKP-VML의 형식적 정의, 성질, 그리고 검증 가능성 요구사항을 정의한다.
• 응용 시나리오와 기술적 특성에 따라 기존 ZKP-VML 체계를 분류하고 분석한다.
• ZKP 기반 검증 가능한 ML의 주요 도전과제, 한계 및 향후 방향을 논의하여 추가 연구를 안내한다.

제안 방법

• ML에서 검증 가능성과 관련된 ML 및 제로지식 증명의 배경을 제공한다.
• 정의와 성질(완전성, 견고성, 제로지식)을 갖춘 ZKP-VML을 형식화한다.
• 기존 체계를 응용 클래스별로 분류하고 그 기술적 접근법을 분석한다.
• 아키텍처 워크플로(위탁 ML, 파이프라인, 연합 학습)를 논의하고 ZKP가 계산을 어떻게 검증하는지 설명한다.
• 관련 설문조사를 비교하고 2023년 6월까지의 최초의 포괄적 ZKP-VML 연구로 본 연구의 위치를 제시한다.

(a) Federal training of anti-money laundering models based on private transaction behavior

실험 결과

연구 질문

• RQ1 다양한 ML 시나리오(위탁 학습, 추론, 파이프라인)에서 어떤 검증 가능성 이슈가 발생하는가?
• RQ2 제로지식 증명을 어떻게 정의하고 적용하여 개인 데이터를 노출하지 않으면서 ML 계산을 검증할 수 있는가?
• RQ3 기존의 ZKP-VML 체계는 무엇이며, 아키텍처, 암호학 원리, 효율성에서 어떻게 다른가?
• RQ4 ZKP 기반 검증 가능한 ML의 주요 도전과제와 열린 연구 방향은 무엇인가?
• RQ5 검증 가능성과 ZKP 기법의 범주 측면에서 ZKP-VML이 관련 보안 ML 설문과 어떻게 비교되는가?

주요 결과

• ZKP-VML은 개인 데이터를 노출하지 않으면서 ML 계산을 검증하는 형식적 프레임워크로 부상했다.
• 본 고충은 ZKP-VML의 형식적 정의와 핵심 성질(완전성, 건전성, 제로지식)을 제공한다.
• 기존 체계는 응용 클래스 및 기술적 특성으로 분류되고, 위탁 ML, ML 파이프라인, 연합 학습에서의 워크플로 분석이 제시된다.
• 본 연구는 효율성, 통신 오버헤드, 다양한 ML 모델 및 데이터 프라이버시 체계와의 통합과 같은 실무적 도전을 식별한다.
• 이는 2023년 6월까지의 ZKP-VML에 대한 최초의 체계적 연구로 위치시키며, 격차와 향후 연구 방향을 강조한다.

(b) Artificial intelligence diagnosis based on case privacy data