[논문 리뷰] FALCON: A Fourier Transform Based Approach for Fast and Secure Convolutional Neural Network Predictions

Shaohua Li, Kaiping Xue외 5명|arXiv (Cornell University)|2018. 11. 20.

Privacy-Preserving Technologies in Data참고 문헌 28인용 수 11

한 줄 요약

FALCON은 푸리에 변환 기반 최적화와 완전한 동형 암호화를 사용하여 컨볼루션 신경망(CNNs)을 평가하는 새로운, 빠르고 안전한 방법을 제안한다. 이는 첫 번째 실용적인 보안 소프트맥스 계산 프로토콜을 제공함으로써 효율적이고 프라이버시를 보장하는 추론을 가능하게 하며, MNIST 및 CIFAR-10 모델에서 이전 작업 대비 속도 25배 이상 향상되고 통신량은 97% 감소시킨다.

ABSTRACT

Machine learning as a service has been widely deployed to utilize deep neural network models to provide prediction services. However, this raises privacy concerns since clients need to send sensitive information to servers. In this paper, we focus on the scenario where clients want to classify private images with a convolutional neural network model hosted in the server, while both parties keep their data private. We present FALCON, a fast and secure approach for CNN predictions based on Fourier Transform. Our solution enables linear layers of a CNN model to be evaluated simply and efficiently with fully homomorphic encryption. We also introduce the first efficient and privacy-preserving protocol for softmax function, which is an indispensable component in CNNs and has not yet been evaluated in previous works due to its high complexity. We implemented the FALCON and evaluated the performance on real-world CNN models. The experimental results show that FALCON outperforms the best known works in both computation and communication cost.

연구 동기 및 목표

• 클라이언트와 서버가 입력 데이터와 모델 파라미터를 보호해야 하는 머신러닝 서비스에서의 프라이버시 문제를 해결하기 위해.
• 민감한 데이터나 모델 가중치를暴露하지 않고도 CNN에서 안전하고 효율적인 추론을 가능하게 하기 위해.
• CNN의 계산적으로 복잡한 소프트맥스 레이어에 대해 첫 번째 효율적이고 프라이버시 보장 프로토콜을 설계하기 위해.
• 기존 방법에 비해 보안 CNN 추론의 계산 및 통신 오버헤드를 크게 줄이기 위해.

제안 방법

• 빠른 푸리에 변환(FFT)의 선형 성질을 활용하여 완전한 동형 암호화 하에서 컨볼루션 및 완전히 연결된 레이어의 평가를 최적화한다.
• 격자 기반 완전한 동형 암호화를 적용하여 암호문 곱셈 오버헤드를 최소화하면서 선형 레이어를 안전하게 평가한다.
• 지수함수와 나눗셈으로 인해 이전에 한계가 있었던 점을 고려해, 프라이버시 보장 방식으로 소프트맥스 함수를 계산하는 새로운 효율적인 프로토콜을 도입한다.
• 비선형 레이어, 즉 ReLU 및 맥스 풀링의 안전한 평가를 위해 요아의 가드블드 서킷을 사용하고 최적화된 처리 파이프라인을 구현한다.
• 소수점 값을 정수로 표현하기 위해 스케일링을 사용하는 고정소수점 산술을 적용하여 암호화된 계산 중 정확도 손실를 최소화한다.
• 효율성과 보안을 균형 잡기 위해 동형 암호화와 안전한 양자리 계산을 조합한 하이브리드 아키텍처를 구현한다.

실험 결과

연구 질문

• RQ1 완전한 동형 암호화 하에서 컨볼루션 신경망의 선형 레이어 평가를 현저하게 가속화하기 위해 빠른 푸리에 변환을 사용할 수 있는가?
• RQ2 이전의 보안 딥러닝 연구에서 간과되었던 소프트맥스 함수에 대해 효율적이고 프라이버시 보장 프로토콜을 설계할 수 있는가?
• RQ3 기존의 보안 추론 시스템인 MiniONN와 GAZELLE에 비해 제안된 FALCON 프레임워크는 성능과 통신 비용 측면에서 어떻게 비교되는가?
• RQ4 고정소수점 근사화가 암호화된 CNN 모델의 예측 정확도에 어느 정도 영향을 미치는가?

주요 결과

• CIFAR-10 모델에서 FALCON은 MiniONN 대비 온라인 단계 계산에서 25배 이상의 속도 향상을 기록했으며, 통신 오버헤드는 97% 감소시켰다.
• MNIST 모델에서 FALCON은 온라인 단계에서 MiniONN 대비 27배 이상 빠르게 작동했고, 통신량은 97% 이상 감소시켰다.
• GAZELLE의 보고된 벤치마크에서의 일관성 없는 점들로 인해 그 성능 주장에 의문이 제기됨에도 불구하고, FALCON은 온라인 계산 및 통신 측면에서 GAZELLE를 초월했다.
• 암호화된 모델의 정확도는 평판 모델 추론과 거의 동일한 수준을 유지했다: MNIST에서는 99.26%, CIFAR-10에서는 81.61%이며, 고정소수점 스케일링으로 인한 정확도 손실는 미미했다.
• FALCON은 암호화된 CNN 추론에서 소프트맥스 레이어에 대해 안전하고 효율적이며 실용적인 프로토콜을 제공하는 최초의 프레임워크이다.
• FFT와 최적화된 동형 암호화의 사용으로 고비용 암호문 곱셈 횟수를 줄여 모든 CNN 레이어에서 뚜렷한 성능 향상을 이끌어냈다.