[논문 리뷰] Privacy preserving Neural Network Inference on Encrypted Data with GPUs

Daniel Takabi, Robert Podschwadt외 3명|arXiv (Cornell University)|2019. 11. 26.

Cryptography and Data Security참고 문헌 14인용 수 8

한 줄 요약

이 논문은 암호화된 데이터 상에서 컨볼루션 신경망(CNN)의 프라이버시를 보장하는 추론을 위한 GPU 가속 FHE(완전 동형 암호화) 프레임워크를 제안한다. 비선형 활성화 함수를 다항수 근사로 대체하고 GPU에서 FHE 연산을 최적화함으로써, 곱셈 연산에서 CPU 대비 4,500배 이상의 속도 향상을 달성했으며, AlexNet과 유사한 CNN을 사용해 COWC 데이터셋에서 95%의 정확도를 확보했다.

ABSTRACT

Machine Learning as a Service (MLaaS) has become a growing trend in recent years and several such services are currently offered. MLaaS is essentially a set of services that provides machine learning tools and capabilities as part of cloud computing services. In these settings, the cloud has pre-trained models that are deployed and large computing capacity whereas the clients can use these models to make predictions without having to worry about maintaining the models and the service. However, the main concern with MLaaS is the privacy of the client's data. Although there have been several proposed approaches in the literature to run machine learning models on encrypted data, the performance is still far from being satisfactory for practical use. In this paper, we aim to accelerate the performance of running machine learning on encrypted data using combination of Fully Homomorphic Encryption (FHE), Convolutional Neural Networks (CNNs) and Graphics Processing Units (GPUs). We use a number of optimization techniques, and efficient GPU-based implementation to achieve high performance. We evaluate a CNN whose architecture is similar to AlexNet to classify homomorphically encrypted samples from the Cars Overhead With Context (COWC) dataset. To the best of our knowledge, it is the first time such a complex network and large dataset is evaluated on encrypted data. Our approach achieved reasonable classification accuracy of 95% for the COWC dataset. In terms of performance, our results show that we could achieve several thousands times speed up when we implement GPU-accelerated FHE operations on encrypted floating point numbers.

연구 동기 및 목표

• 대규모 데이터셋을 위한 프라이버시 보장형 머신러닝에서 FHE의 성능 저하 문제를 해결한다.
• 특히 복잡한 모델인 CNN에 적합한 FHE 호환 신경망 아키텍처를 통해 암호화된 데이터 상에서 효율적인 추론을 가능하게 한다.
• GPU 가속을 통해 FHE가 대규모 모델과 데이터셋에 대해 계산적으로 불가능한 문제를 해결한다.
• 동형 암호화와 GPU 가속을 활용한 엔드 투 엔드 프라이버시 보장형 머신러닝 서비스(MLaaS)의 실용적 구현 가능성을 입증한다.

제안 방법

• 비선형 활성화 함수(예: ReLU)를 FHE에 적합한 대체 함수로 다항수 근사로 대체하여 FHE 평가를 지원한다.
• 실수형 암호화된 숫자를 정수 배열로 변환하고 부울 회로를 통해 산술 연산을 수행함으로써 암호화된 부동소수점 수에 대한 FHE 연산을 구현한다.
• 특히 Titan V GPU(80개 코어)를 대상으로 GPU 커널을 사용해 FHE 연산을 가속화한다.
• 부울 회로의 깊이를 최소화하고 GPU 아키텍처의 병렬성 특성을 활용함으로써 FHE 파이프라인을 최적화한다.
• COWC 데이터셋에서 훈련된 AlexNet과 유사한 아키텍처의 CNN에 GPU 가속 FHE 레이어를 통합한다.
• 암호화된 데이터와 비암호화된 데이터 간의 추론 시간과 분류 결과를 비교하여 성능 및 정확도를 측정한다.

실험 결과

연구 질문

• RQ1 GPU 가속을 통해 FHE 기반 신경망 추론이 COWC와 같은 대규모 실세계 데이터셋에서 실용적으로 구현될 수 있는가?
• RQ2 GPU 가속은 암호화된 부동소수점 수에 대한 FHE 연산의 계산 오버헤드를 어느 정도 감소시킬 수 있는가?
• RQ3 ReLU와 같은 표준 활성화 함수 대신 다항수 근사를 사용한 FHE 호환 신경망의 정확도는 표준 ReLU 기반 네트워크와 비교해 얼마나 높은가?
• RQ4 프라이버시 보장형 MLaaS 환경에서 FHE 기반 추론에 대해 GPU가 CPU 대비 얼마나 높은 성능 향상을 제공하는가?
• RQ5 AlexNet과 같은 복잡한 CNN 아키텍처가 최적화된 FHE 기법을 통해 동형 암호화된 데이터에서 성공적으로 평가될 수 있는가?

주요 결과

• 제안된 FHE 호환 CNN은 동형 암호화된 데이터 상에서 COWC 데이터셋에서 95%의 분류 정확도를 달성했다.
• GPU 가속 덕분에 암호화된 데이터 상에서 단일 곱셈 연산의 실행 시간이 CPU 실행 대비 4,500배 이상 단축되었다.
• GPU 가속 FHE 연산을 통해 암호화된 부동소수점 수의 덧셈 연산에서 10,000배 이상의 속도 향상이 이루어졌다.
• 성능은 GPU 코어 수에 거의 선형적으로 증가했으며, 이는 FHE 연산에 대한 높은 병렬 처리 효율성을 보여주었다.
• 이 프레임워크는 대규모 실세계 데이터셋(COWC)에서 복잡한 CNN 아키텍처를 성공적으로 평가했으며, 저자들의 지식에 비추어 보면 이는 FHE를 사용한 첫 번째 평가이다.
• ReLU 및 평균 풀링 레이어에 대해 다항수 근사를 사용함으로써 모델 성능을 유지하면서도 동형 평가를 가능하게 하였다.