[논문 리뷰] Trust the Process: Zero-Knowledge Machine Learning to Enhance Trust in Generative AI Interactions

Bianca-Mihaela Ganescu, Jonathan Passerat‐Palmbach|arXiv (Cornell University)|2024. 02. 09.

Adversarial Robustness in Machine Learning인용 수 6

한 줄 요약

이 논문은 생성 AI 모델의 출력이 올바른 모델에서 나왔음을 검증 가능한 형태로 확인하기 위해 제로지식 증명을 사용하는 것을 제안하며, 프라이버시를 유지하고 snarkGPT를 GPT-2 수준의 ZKML 파이프라인으로 제시하고 경험적 확장성 분석을 수행한다.

ABSTRACT

Generative AI, exemplified by models like transformers, has opened up new possibilities in various domains but also raised concerns about fairness, transparency and reliability, especially in fields like medicine and law. This paper emphasizes the urgency of ensuring fairness and quality in these domains through generative AI. It explores using cryptographic techniques, particularly Zero-Knowledge Proofs (ZKPs), to address concerns regarding performance fairness and accuracy while protecting model privacy. Applying ZKPs to Machine Learning models, known as ZKML (Zero-Knowledge Machine Learning), enables independent validation of AI-generated content without revealing sensitive model information, promoting transparency and trust. ZKML enhances AI fairness by providing cryptographic audit trails for model predictions and ensuring uniform performance across users. We introduce snarkGPT, a practical ZKML implementation for transformers, to empower users to verify output accuracy and quality while preserving model privacy. We present a series of empirical results studying snarkGPT's scalability and performance to assess the feasibility and challenges of adopting a ZKML-powered approach to capture quality and performance fairness problems in generative AI models.

연구 동기 및 목표

• 생성형 AI의 공정성, 투명성, 신뢰성을 촉진하고, 특히 보건 및 금융 맥락에서의 활용을 강화한다.
• 가중치를 노출하지 않으면서 원격 AI 서비스가 정확히 요청한 모델을 사용하고 있는지 확인하는 프로토콜을 개발한다.
• zkSNARK를 활용해 모델 실행의 정확성과 출력 무결성에 대한 암호학적 증명을 제공한다.
• GPT-2 크기의 트랜스포머(nanoGPT)를 사용해 ZKML의 실용성을 시연하고 확장성과 메모리 제약을 평가한다.

제안 방법

• AI 추론에 대한 zkSNARK 기반 검증(ZKML)을 설명하고, 출력이 요청된 모델에서 비롯되었음을 증명하는 방법을 제시한다.
• GPT-2 유사 트랜스포머를 위한 검증 가능한 ZKML 파이프라인인 snarkGPT를 도입하고 Halo2/KZG 백엔드와 작동하도록 적응시켰다.
• 신경망 추론용 zkSNARK를 구성하기 위한 백엔드로 EZKL과 Halo2를 설명하고, 회로 행렬 및 다항식 제약을 포함한다.
• 트랜스포머 구성 요소를 zkSNARK 증명에 적합한 유한 체계로 매핑하고, 자기-어텐션 및 기타 비선형성을 다룬다.

실험 결과

연구 질문

• RQ1 클라이언트가 요청한 정확한 모델에서 AI 추론이 나왔는지 검증하기 위해 zkSNARK를 어떻게 사용할 수 있는가?
• RQ2 모델 가중치를 공개하지 않고도 균일한 모델 동작을 보장하여 성능 공정성을 ZKML이 제공할 수 있는가?
• RQ3 GPT-2 규모의 트랜스포머 추론에 대한 zkSNARK 증명 생성을 위한 실제 비용(시간과 메모리)은 어느 정도인가?
• RQ4 모델 아키텍처와 회로 표현이 zkSNARK 제약 수 및 증명 효율성에 어떤 영향을 미치는가?
• RQ5 ZKML 접근법이 GPT 유사 아키텍처를 넘어 다른 신경망 모델로 확장 가능한가?

주요 결과

• ZKML은 공개 입력과 개인 모델 가중치 증거를 주어 출력이 지정된 모델에 의해 생성되었음을 암호학적 증명할 수 있다.
• snarkGPT는 클라이언트가 증명을 검증하기 위한 엔드투엔드 프로토콜을 포함하여 GPT-2 크기의 검증기와 ZKML 파이프라인의 가능성을 입증한다.
• 실험 결과 증명 생성 비용은 임베딩 크기와 트랜스포머 계층 수가 증가함에 따라 증가하며, 비선형 확장성 고려가 필요함을 보여준다.
• 회로 매트릭스 크기는 증명 생성 시간과 메모리에 큰 영향을 미치며, 더 큰 매트릭스는 일부 구성에서 수백 기가바이트에 이르는 높은 메모리 사용을 수반한다.
• nanoGPT의 M/N 비율(제약 대 매개변수)은 Modulus Labs MLP 모델보다 현저히 높아 트랜스포머 계열 모델이 더 무거운 증명 작업을 부과함을 시사한다.
• 본 연구는 ZKML이 GPT 아키텍처를 넘어 일반화될 수 있음을 확인하지만, 트랜스포머 모델은 비트랜스포머 네트워크에 비해 뚜렷한 과제를 제시한다.