[논문 리뷰] Privacy-Preserving Machine Learning with Fully Homomorphic Encryption for Deep Neural Network

Joon-Woo Lee, HyungChul Kang외 9명|arXiv (Cornell University)|2021. 06. 14.

Cryptography and Data Security인용 수 4

한 줄 요약

이 논문은 RNS-CKKS 완전 동형 암호화(FHE) 기반으로 부스팅 기능을 갖춘 표준 ResNet-20 합성곱 신경망의 첫 번째 구현을 제시한다. 비산술적 활성화 함수를 위한 고급 근사 방법을 사용하여, CIFAR-10에서 90.67%의 분류 정확도를 달성했으며, 평판 모델과 98.67%의 일치도를 보였으며, 최신 FHE 기반으로 개인정보 보호를 위한 딥러닝의 높은 정밀도와 실현 가능성을 입증한다.

ABSTRACT

Fully homomorphic encryption (FHE) is one of the prospective tools for privacypreserving machine learning (PPML), and several PPML models have been proposed based on various FHE schemes and approaches. Although the FHE schemes are known as suitable tools to implement PPML models, previous PPML models on FHE encrypted data are limited to only simple and non-standard types of machine learning models. These non-standard machine learning models are not proven efficient and accurate with more practical and advanced datasets. Previous PPML schemes replace non-arithmetic activation functions with simple arithmetic functions instead of adopting approximation methods and do not use bootstrapping, which enables continuous homomorphic evaluations. Thus, they could not use standard activation functions and could not employ a large number of layers. The maximum classification accuracy of the existing PPML model with the FHE for the CIFAR-10 dataset was only 77% until now. In this work, we firstly implement the standard ResNet-20 model with the RNS-CKKS FHE with bootstrapping and verify the implemented model with the CIFAR-10 dataset and the plaintext model parameters. Instead of replacing the non-arithmetic functions with the simple arithmetic function, we use state-of-the-art approximation methods to evaluate these non-arithmetic functions, such as the ReLU, with sufficient precision [1]. Further, for the first time, we use the bootstrapping technique of the RNS-CKKS scheme in the proposed model, which enables us to evaluate a deep learning model on the encrypted data. We numerically verify that the proposed model with the CIFAR-10 dataset shows 98.67% identical results to the original ResNet-20 model with non-encrypted data. The classification accuracy of the proposed model is 90.67%, which is pretty close to that of the original ResNet-20 CNN model...

연구 동기 및 목표

• 완전 동형 암호화(FHE)를 사용하여 표준 딥 뉴럴 네트워크의 개인정보 보호형 추론을 가능하게 하기 위해.
• 이전의 FHE 기반 PPML 모델이 단순화된 활성화 함수를 사용하고 부스팅 기능이 없어 제한된 점을 극복하기 위해.
• 고정밀도와 고정확도로 RNS-CKKS FHE 기반으로 암호화된 데이터 위에 전체 ResNet-20 모델을 구현하기 위해.
• 고도로 발전된 FHE 기법이 재학습 없이도 실제 복잡한 모델에 적용될 수 있음을 입증하기 위해.

제안 방법

• 딥 뉴럴 네트워크의 지속적인 동형 평가를 지원하기 위해 부스팅 기능을 갖춘 RNS-CKKS FHE 기반을 사용하였다.
• 정확도를 높이기 위해 ReLU와 같은 비산술적 활성화 함수에 대해 최신 근사 방법을 적용하였다.
• 노이즈 증가 문제를 관리하고 더 깊은 네트워크 추론을 가능하게 하기 위해 부스팅을 통합하였다.
• 정확도, 보안성, 성능를 균형 있게 조절하기 위해 파rameter 튜닝 및 피지컬 튜닝을 실시하였다.
• RNS-CKKS의 패킹 기능을 활용하여 병렬로 다수의 데이터 포인트를 처리하였다.
• 원본 ResNet-20 모델과의 비교를 위해 CIFAR-10 데이터셋과 평판 가중치를 사용하여 암호화된 모델을 검증하였다.

실험 결과

연구 질문

• RQ1 최신 FHE 기반으로 표준 딥 러닝 모델, 예를 들어 ResNet-20을 암호화된 데이터에서 안전하고 정확하게 실행할 수 있는가?
• RQ2 모델 성능을 저하시키지 않고 FHE 환경에서 ReLU와 같은 비산술적 활성화 함수를 얼마나 정확하게 근사할 수 있는가?
• RQ3 부스팅이 FHE 환경에서 딥 뉴럴 네트워크 추론의 실현 가능성과 성능에 미치는 영향는 어떠한가?
• RQ4 RNS-CKKS FHE 기반은 복잡한 모델인 ResNet-20의 엔드 투 엔드 추론을 고분류 정확도로 지원할 수 있는가?
• RQ5 정확도와 런타임 측면에서 FHE 기반 추론은 평판 추론과 비교해 어떤가?

주요 결과

• 제안된 FHE 기반 ResNet-20는 CIFAR-10에서 90.67%의 분류 정확도를 달성했으며, 원본 모델의 89.33% 정확도와 매우 유사하였다.
• 10,000장의 테스트 이미지에 대해 평판 모델과 98.67%의 일치 비율을 보였으며, 이는 높은 정밀도를 의미한다.
• 이 구현은 FHE 환경에서 딥 러닝에 부스팅을 처음으로 적용하여 더 깊은 네트워크 평가를 가능하게 하였다.
• 단일 이미지 추론에 소요된 런타임은 이중 Intel Xeon Platinum 8280 시스템(112개 코어, 512GB RAM)에서 약 4시간이었다.
• 이전까지 CIFAR-10에 대해 단어 기반 FHE 기반 PPML 모델의 최고 정확도는 77%였으며, 이는 본 연구에서의 상당한 향상이다.
• 보안 수준은 98비트였으며, 더 긴 런타임을 감수함으로써 파rameter 조정으로 향상시킬 수 있었다.