[논문 리뷰] AutoPrivacy: Automated Layer-wise Parameter Selection for Secure Neural Network Inference

Qian Lou, Song Bian외 1명|arXiv (Cornell University)|2020. 06. 07.

Cryptography and Data Security참고 문헌 22인용 수 17

한 줄 요약

AutoPrivacy는 하이브리드 개인정보 보호 신경망(HPPNNs)에서 각 레이어별로 동적 암호화(HE) 파라미터를 자동으로 선택하기 위해 딥 강화학습 기반 시스템을 제안한다. 이로 인해 추론 지연 시간이 크게 감소한다. 각 레이어의 오차 내성에 맞게 평문 모듈러스, 암호문 모듈러스, 다항식 차수 등의 HE 파라미터를 조정함으로써, 정확도 손실이 극히 적은 상태에서 이전 HPPNNs 대비 53–70% 낮은 지연 시간을 달성하며, 암호화된 데이터에서 더 빠르고 효율적인 보안 추론을 가능하게 한다.

ABSTRACT

Hybrid Privacy-Preserving Neural Network (HPPNN) implementing linear layers by Homomorphic Encryption (HE) and nonlinear layers by Garbled Circuit (GC) is one of the most promising secure solutions to emerging Machine Learning as a Service (MLaaS). Unfortunately, a HPPNN suffers from long inference latency, e.g., $\sim100$ seconds per image, which makes MLaaS unsatisfactory. Because HE-based linear layers of a HPPNN cost $93\%$ inference latency, it is critical to select a set of HE parameters to minimize computational overhead of linear layers. Prior HPPNNs over-pessimistically select huge HE parameters to maintain large noise budgets, since they use the same set of HE parameters for an entire network and ignore the error tolerance capability of a network. In this paper, for fast and accurate secure neural network inference, we propose an automated layer-wise parameter selector, AutoPrivacy, that leverages deep reinforcement learning to automatically determine a set of HE parameters for each linear layer in a HPPNN. The learning-based HE parameter selection policy outperforms conventional rule-based HE parameter selection policy. Compared to prior HPPNNs, AutoPrivacy-optimized HPPNNs reduce inference latency by $53\%\sim70\%$ with negligible loss of accuracy.

연구 동기 및 목표

• 하이브리드 개인정보 보호 신경망(HPPNNs)에서 높은 추론 지연 시간을 해소하기 위해, 비효율적인 동적 암호화(HE) 파라미터 선택이 원인임을 해결한다.
• 모든 레이어에 동일하고 과도하게 경계를 설정한 HE 파라미터를 사용하는 기존 HPPNNs의 한계를 극복하여 과도한 계산 오버헤드를 방지한다.
• 각 레이어의 고유한 오차 내성과 계산 요구사항을 고려한 자동화된, 레이어별로 맞춤형 HE 파라미터 선택을 가능하게 한다.
• 보안 신경망 추론에서 높은 정확도와 128비트 보안을 유지하면서 추론 지연 시간과 통신 비용을 줄인다.
• 실제 MLaaS 환경에서 빠르고 정확한 개인정보 보호 기반 머신러닝을 구현하기 위한 확장 가능하고 전문 지식이 필요 없는 솔루션을 제공한다.

제안 방법

• AutoPrivacy는 HPPNN 내 각 선형 레이어에 대해 동적 암호화(HE) 파라미터(평문 모듈러스 p, 암호문 모듈러스 q, 다항식 차수 n)를 최적화하는 정책을 학습하기 위해 딥 강화학습 에이전트를 활용한다.
• 에이전트는 추론 지연 시간, 통신 비용, 모델 정확도를 균형 잡는 보상 함수를 사용하여 훈련되며, 복호화 실패에 대한 벌점도 포함된다.
• 각 레이어의 오차 내성과 노이즈 누적 특성을 모델링하여 HE 파라미터 선택을 안내함으로써 과잉 확보를 방지한다.
• 고정된 작고 컴act한 신경망 아키텍처(예: MobileNet)와 균일한 양자화를 사용하며, 최적화는 아키텍처나 비트 폭이 아닌 레이어별 HE 파라미터에 집중한다.
• 계산 경로를 따라 동적 연산과 노이즈 증가를 시뮬레이션하여 HE 파라미터 선택을 평가한다.
• 학습 안정성과 수렴을 향상시키기 위해 서서히 복잡도가 증가하는 커리큘럼 학습 전략을 활용한다.

실험 결과

연구 질문

• RQ1 학습 기반 접근 방식이 HPPNNs의 추론 지연 시간을 줄이는데 있어 규칙 기반 HE 파라미터 선택을 능가할 수 있는가?
• RQ2 개별 레이어의 오차 내성에 맞춘 레이어별 HE 파라미터 선택이 정확도를 훼손하지 않으면서도 계산 오버헤드를 크게 줄일 수 있는가?
• RQ3 자동화된 HE 파라미터 선택은 아키텍처와 양자화 동시 탐색과 비교해 효율성과 성능 면에서 어떻게 다른가?
• RQ4 딥 강화학습이 각 레이어에 대해 근사 최적의 구성으로 이어지는 고차원 HE 파라미터 공간을 효과적으로 탐색할 수 있는가?
• RQ5 AutoPrivacy는 보안성과 정확도를 유지하면서 보안 신경망 추론에서 지연 시간과 통신 비용을 얼마나 줄일 수 있는가?

주요 결과

• AutoPrivacy는 기존 HPPNNs 대비 HPPNN 추론 지연 시간을 53–70% 감소시켰으며, 최고 성능 설정에서는 CIFAR-10 이미지당 지연 시간을 약 100초에서 약 30초로 단축시켰다.
• 동일한 네트워크와 데이터셋을 사용한 DELPHI와 비교해 통신 오버헤드를 79% 감소시켰다(2GB에서 0.4GB로).
• MobileNet을 사용해 14비트 양자화를 적용한 상황에서 AutoPrivacy는 CIFAR-10에서 91.4%의 top-1 정확도를 유지했으며, 이는 이전 결과와 비교해도 유사하거나 뛰어나면서도 훨씬 낮은 지연 시간을 기록했다.
• 검색 과정은 단 8시간이 소요되었으며, 아키텍처와 양자화를 동시에 탐색하는 NASS의 60시간 이상 소요되는 것과 비교해 훨씬 뛰어난 검색 효율성을 보였다.
• AutoPrivacy는 깊이 분할 컨벌루션 레이어가 누적 횟수가 적고 노이즈 증가가 적어 더 작은 n과 q를 안전하게 사용할 수 있음을 규명했다. 반면 포인트 와이즈 레이어는 더 높은 노이즈를 견딜 수 있도록 더 큰 파라미터가 필요하다.
• 이 방법은 잔차 블록 레이어(예: 4번째 및 8번째 레이어)가 다른 레이어보다 더 큰 노이즈 예산이 필요하다는 점을 발견했으며, 이는 정확도 유지의 관점에서 더 높은 HE 파라미터 설정이 타당하다는 것을 뒷받침한다.