[논문 리뷰] Impala: Low-Latency, Communication-Efficient Private Deep Learning Inference

Woo‐Seok Choi, Brandon Reagen외 2명|arXiv (Cornell University)|2022. 05. 13.

Cryptography and Data Security인용 수 5

한 줄 요약

Impala는 키 스위칭을 도입한 프oxy 서버를 통해 클라이언트 대역폭을 수 개의 주요 차수 감소시키고, 희소 컨볼루션을 통한 동형 암호화 최적화 및 잘라낸 비밀 공유를 통한 가라지드 서킷 압축을 통해 저지연, 통신 효율적인 사생활 보장 기반 딥러닝 추론을 제안한다. 기존 최상위 기법 대비 3배 이상의 대역폭 절감과 4배의 속도 향상을 달성한다.

ABSTRACT

This paper proposes Impala, a new cryptographic protocol for private inference in the client-cloud setting. Impala builds upon recent solutions that combine the complementary strengths of homomorphic encryption (HE) and secure multi-party computation (MPC). A series of protocol optimizations are developed to reduce both communication and performance bottlenecks. First, we remove MPC's overwhelmingly high communication cost from the client by introducing a proxy server and developing a low-overhead key switching technique. Key switching reduces the clients bandwidth by multiple orders of magnitude, however the communication between the proxy and cloud is still excessive. Second, to we develop an optimized garbled circuit that leverages truncated secret shares for faster evaluation and less proxy-cloud communication. Finally, we propose sparse HE convolution to reduce the computational bottleneck of using HE. Compared to the state-of-the-art, these optimizations provide a bandwidth savings of over 3X and speedup of 4X for private deep learning inference.

연구 동기 및 목표

• 동형 암호화(HE)와 보안 다자간 계산(MPC) 기반 기존 사생활 보장 추론 프로토콜에서 발생하는 높은 클라이언트 측 통신 및 계산 오버헤드를 해결한다.
• CIFAR-10과 같은 모델에서 HE 기반 사생활 보장 추론의 클라이언트 통신 부담을 1GB 이상 초과할 수 있는 상황에서 줄인다.
• 사생활 보장 추론에서 선형(HE) 및 비선형(GC) 연산에 대한 클라우드 측 계산 및 통신 비용을 최소화한다.
• 모델 정확도를 유지하면서 암호화 최적화를 공동 설계하여 성능을 크게 향상시킨다.

제안 방법

• 재암호화 및 키 스위칭을 통한 프록시 서버를 도입하여 클라이언트-클라우드 간 통신을 처리함으로써, 선형 레이어 이후 클라이언트가 클라우드와 상호작용할 필요 없이도 가능하게 한다.
• 컨볼루션 신경망의 가중치 희소성 특성을 활용해 희소 동형 컨볼루션을 구현함으로써 HE 계산 오버헤드를 감소시킨다.
• 비밀 공유의 가장 낮은 유효 비트를 잘라내어 가라지드 서킷을 최적화함으로써 보안을 해치지 않으면서도 통신 및 평가 비용을 감소시킨다.
• Cheetah HE 커널 구현을 활용하고 프록시 기반 아키텍처와 통합하여 클라이언트 측 부담을 최소화한다.
• 실현 단계에서 BFV 동형 암호화를 위한 SEAL 라이브러리와 가라지드 서킷 평가를 위한 Multi-Protocol SPDZ를 사용한다.
• HE, MPC, 통신 레이어 간 최적화를 공동 설계하여 사생활 보장 추론의 종단 간 성능 향상을 달성한다.

실험 결과

연구 질문

• RQ1 HE 기반 사생활 보장 추론에서 클라이언트 측 통신 오버헤드를 보안 및 정확도를 훼손하지 않고 주요 차수 감소시킬 수 있는가?
• RQ2 모델의 희소성 특성을 활용해 컨볼루션 레이어에서 발생하는 동형 암호화의 계산 블로킹 문제를 어떻게 완화할 수 있는가?
• RQ3 비밀 공유의 자르기로 인한 가라지드 서킷 평가 최적화의 정도는 무엇이며, 정확성과 기밀성은 유지되는가?
• RQ4 프록시 기반 아키텍처가 클라이언트에서 클라우드 및 프록시로 통신 및 계산을 효과적으로 이관하여 확장 가능한 사생활 보장 추론을 가능하게 하는가?
• RQ5 키 스위칭, 희소 HE, 잘라낸 GC의 조합적 성능 영향은 종단 간 추론 지연 및 대역폭에 어떤 영향을 미치는가?

주요 결과

• Impala는 Gazelle 대비 클라이언트 측 통신 대역폭을 4개 이상의 주요 차수 감소시키며, 클라이언트 오버헤드는 모델 아키텍처에 관계없이 입력 크기만에 의존한다.
• 현재 최상위 기법 대비 전체 추론 지연에서 4배의 속도 향상을 달성하였으며, 주로 최적화된 HE 및 GC 구성 요소 덕분이다.
• 기본 기법 대비 대역폭 절감이 3배를 초과하며, 오프라인 및 온라인 통신은 각각 Gazelle의 GC 크기의 약 1/4 및 1/2 수준으로 감소하였다.
• 희소 동형 컨볼루션을 사용함으로써 CNN의 가중치 희소성을 활용해 선형 레이어의 계산 오버헤드를 감소시켰으며, 모델 정확도에 영향을 주지 않았다.
• 가라지드 서킷의 비밀 공유에서 가장 낮은 9비트를 잘라내어 GC 크기 및 통신 비용을 감소시켰지만, 보안성 및 정확성은 유지되었다.
• 프록시 기반 재암호화 및 키 스위칭은 클라우드 측에서 5ms 미만의 지연만을 추가하여 실질적으로 무시할 수 있으며, 확장 가능한 구현을 가능하게 한다.