[논문 리뷰] zkFinGPT: Zero-Knowledge Proofs for Financial Generative Pre-trained Transformers
.zkFinGPT는 제로지식증명을 사용하여 FinGPT 추론을 검증하는 동안 모델 가중치와 데이터를 보호하지만 상당한 계산 오버헤드를 수반한다.
Financial Generative Pre-trained Transformers (FinGPT) with multimodal capabilities are now being increasingly adopted in various financial applications. However, due to the intellectual property of model weights and the copyright of training corpus and benchmarking questions, verifying the legitimacy of GPT's model weights and the credibility of model outputs is a pressing challenge. In this paper, we introduce a novel zkFinGPT scheme that applies zero-knowledge proofs (ZKPs) to high-value financial use cases, enabling verification while protecting data privacy. We describe how zkFinGPT will be applied to three financial use cases. Our experiments on two existing packages reveal that zkFinGPT introduces substantial computational overhead that hinders its real-world adoption. E.g., for LLama3-8B model, it generates a commitment file of $7.97$MB using $531$ seconds, and takes $620$ seconds to prove and $2.36$ seconds to verify.
연구 동기 및 목표
- 고위험 금융 및 저작권 민감 영역에서 FinGPT 출력의 검증 가능하고 프라이버시를 보장하는 검증을 촉진한다.
- 검증이 중요한 세 가지 금융 사용 사례를 시연한다(저작권 소송, 저작권이 있는 시험 결과, 거래 전략의 프라이버시).
- 공개 검증 가능성을 위한 다중선형 확장, sumcheck 프로토콜, 그리고 KZG 커밋먼트를 결합한 zkFinGPT 아키텍처를 제안한다.
- 불변성과 변조 저항성을 보장하기 위해 커밋먼트 및 증명 산출물을 블록체인에 업로드한다.
제안 방법
- W와 X를 유한체로 양자화하고 다중선형 확장(MLE)을 통해 다항식 형태로 변환한다.
- 세 변수 다항식 g(b1,b2,b3)을 사용하여 W를 노출하지 않고 Y = WX를 검증하기 위해 sumcheck 프로토콜을 적용한다.
- Schwartz–Zippel 보조정리를 사용해 허위 검증 확률을 한정하고 Fiat–Shamir으로 프로토콜을 비대화식으로 만든다.
- 다항식에 커밋하고 임의의 포인트에서 개방을 검증하기 위해 KZG 다항식 커밋먼트 스킴을 고용한다.
- 두 모듈 zkFinGPT 워크플로우: Monitor(Commit & Prove) 및 검증( KeyGen & Verify)으로 구성되며 블록체인 기반의 불변성을 가진다.
- LLama 및 GPT2 모델에서 커밋, 증명, 증명, 및 검증 소요 시간을 평가하기 위해 zkLLM/ zkGPT 패키지를 사용하여 오버헤드를 실험적으로 측정한다.
실험 결과
연구 질문
- RQ1제로지식증명이 모델 가중치나 입력 데이터를 노출하지 않고도 FinGPT 추론의 공개 검증 가능하고 프라이버시를 보장하는 검증을 제공할 수 있는가?
- RQ2다양한 규모의 대표적 FinGPT 모델에 대해 zkFinGPT가 도입하는 계산 오버헤드는 어느 정도인가?
- RQ3제안된 사용 사례들(저작권 소송, 시험 문제의 신뢰성, 거래 대회 프라이버시)이 zkFinGPT의 검증 가능성으로부터 어떤 이점을 얻는가?
- RQ4MLE, sumcheck, 및 KZG 커밋먼트의 조합이 실제 세계의 대형 FinGPT 모델에 대해 실용적인가?
주요 결과
- zkFinGPT는 상당한 계산 오버헤드를 도입하며, 예를 들어 LLama3-8B의 경우: 7.97 MB 증명 크기, 531 s 커밋, 620 s prove, 및 2.36 s 검증.
- For LLama3-70B, 커밋 시간은 5310 s에 이르고 증명 크기는 25.35 MB이며, 1578 s prove 및 4.66 s verify.
- 검증 시간은 prove 시간이 길어져도 여전히 효율적(5 s 미만)이며, 증명 단계에서 병목 현상을 시사한다.
- 이 방법은 모델 출력 및 데이터 프라이버시의 검증이 가치있는 세 가지 금융 사용 사례를 보여준다.
더 나은 연구,지금 바로 시작하세요
연구 설계부터 논문 작성까지, 연구 시간을 획기적으로 줄여보세요.
카드 등록 없음 · 무료 플랜 제공
이 리뷰는 AI가 만들고, 인간 에디터가 검토했습니다.