[논문 리뷰] SHE: A Fast and Accurate Deep Neural Network for Encrypted Data

Qian Lou, Lei Jiang|arXiv (Cornell University)|2019. 06. 01.

Cryptography and Data Security인용 수 33

한 줄 요약

SHE는 로그-축적 기반의 Leveled HE 심층 네트워크를 TFHE를 이용해 ReLU와 최대풀링을 구현하고, 로그-양자화와 혼합 비트폭 누산기를 사용하여 LHECNN 대비 현저히 낮은 대기 시간과 최첨단 암호화 추론 정확도를 달성한다. 그것은 더 깊은 네트워크와 암호화 데이터상의 LSTM도 가능하게 한다.

ABSTRACT

Homomorphic Encryption (HE) is one of the most promising security solutions to emerging Machine Learning as a Service (MLaaS). Leveled-HE (LHE)-enabled Convolutional Neural Networks (LHECNNs) are proposed to implement MLaaS to avoid large bootstrapping overhead. However, prior LHECNNs have to pay significant computing overhead but achieve only low inference accuracy, due to their polynomial approximation activations and poolings. Stacking many polynomial approximation activation layers in a network greatly reduces inference accuracy, since the polynomial approximation activation errors lead to a low distortion of the output distribution of the next batch normalization layer. So the polynomial approximation activations and poolings have become the obstacle to a fast and accurate LHECNN model. In this paper, we propose a Shift-accumulation-based LHE-enabled deep neural network (SHE) for fast and accurate inferences on encrypted data. We use the binary-operation-friendly Leveled Fast Homomorphic Encryption over Torus (LTFHE) encryption scheme to implement ReLU activations and max poolings. We also adopt the logarithmic quantization to accelerate inferences by replacing expensive LTFHE multiplications with cheap LTFHE shifts. We propose a mixed bitwidth accumulator to accelerate accumulations. Since the LTFHE ReLU activations, max poolings, shifts and accumulations have small multiplicative depth overhead, SHE can implement much deeper network architectures with more convolutional and activation layers. Our experimental results show SHE achieves the state-of-the-art inference accuracy and reduces the inference latency by 76.21% ~ 94.23% over prior LHECNNs on MNIST and CIFAR-10. The source code of SHE is available at https://github.com/qianlou/SHE.

연구 동기 및 목표

• 레벨드 HE를 통해 암호화된 데이터에서 정확한 CNN 추론을 가능하게 하여 보안 MLaaS를 촉진한다.
• 다항 활성화 근사로 인한 기존 LHECNN의 정확도 및 지연 병목을 극복한다.
• 이진 친화적인 TFHE 연산을 활용한 빠르고 정확한 암호화 추론 프레임워크를 제안한다.
• 암호화된 데이터에서 더 깊은 아키텍처와 비 CNN 모델(LSTM)의 확장성을 시연한다.

제안 방법

• Boolean 게이트를 통해 ReLU 활성화 및 최대 풀링을 구현하기 위해 TFHE를 사용한다.
• 가중치에 로그-양자화를 적용하여 곱셈을 시프트와 누산으로 변환한다.
• 동형암호 덧셈 시 MD 오버헤드를 최소화하기 위해 혼합 비트폭 누산기를 도입한다.
• 시프트-축적 연산으로 계산하여 곱셈 깊이를 줄이고 더 깊은 네트워크를 가능하게 한다.
• 입력과 가중치를 5비트 표현으로 양자화하여 정확도와 효율의 균형을 맞춘다.
• MNIST, CIFAR-10, ImageNet 및 의료 데이터 세트에서 대기 시간 및 정확도 향상을 보여준다.

실험 결과

연구 질문

• RQ1 TFHE에서 ReLU와 최대 풀링을 효율적으로 구현하여 암호화된 CNN에서 높은 정확도를 유지할 수 있는가?
• RQ2 시프트 기반 누산과 결합된 로그 양자화가 정확도를 희생하지 않으면서 곱 깊이와 지연을 줄이는가?
• RQ3 고정된 LTFHE MD 예산 하에서 네트워크를 얼마나 깊게 학습하고 안전하게 추론할 수 있는가?
• RQ4 SHE로 암호화된 LSTM을 실행하는 것이 가능하며 Penn Treebank에서 경쟁력 있는 perplexity를 달성하는가?

주요 결과

• SHE는 LHE 패러다임 안에서 MNIST와 CIFAR-10에서 최첨단 암호화 추론 정확도를 달성한다.
• MNIST와 CIFAR-10에서 기존 LHECNN 대비 추론 지연이 76.21%에서 94.23% 감소했다.
• MNIST에서 30층 DSHE를 더 깊게 구성하면 작은 MD 예산에서 99.77% 정확도에 도달한다.
• ImageNet의 ShuffleNet에서 SHE는 실용적인 암호화 파이프라인 내에서 69.4% top-1 정확도를 달성한다.
• SHE는 Penn Treebank에서 단어당 89.8의 perplexity를 사용하며 30K MD를 사용하고, 핵심 곱연산에 필요한 MD는 0.5K 내에서 LSTM 추론을 가능하게 한다.
• SHE는 MNIST 이미지를 약 122.5 MB로 암호화하며, 다른 TFHE 기반 암호화 추론 파이프라인보다 현저히 작다.