[논문 리뷰] CHET: Compiler and Runtime for Homomorphic Evaluation of Tensor Programs

Roshan Dathathri, Olli Saarikivi외 6명|arXiv (Cornell University)|2018. 10. 01.

Cryptography and Data Security참고 문헌 18인용 수 9

한 줄 요약

CHET는 딥 뉴럴 네트워크(DNN) 추론 워크로드에 대한 효율적인 완전 동형 암호화(FHE) 평가를 가능하게 하는 컴파일러 및 런타임 시스템으로, Homomorphic Instruction Set Architecture(HISA)를 도입함으로써 이를 실현한다. 이 시스템은 데이터 레이아웃 선택, 로테이션 키 관리, 커널 융합 등의 핵심 최적화를 자동화하여 표준 CNN에서 수동으로 최적화된 구현보다 뛰어난 성능을 달성한다.

ABSTRACT

Fully Homomorphic Encryption (FHE) refers to a set of encryption schemes that allow computations to be applied directly on encrypted data without requiring a secret key. This enables novel application scenarios where a client can safely offload storage and computation to a third-party cloud provider without having to trust the software and the hardware vendors with the decryption keys. Recent advances in both FHE schemes and implementations have moved such applications from theoretical possibilities into the realm of practicalities. This paper proposes a compact and well-reasoned interface called the Homomorphic Instruction Set Architecture (HISA) for developing FHE applications. Just as the hardware ISA interface enabled hardware advances to proceed independent of software advances in the compiler and language runtimes, HISA decouples compiler optimizations and runtimes for supporting FHE applications from advancements in the underlying FHE schemes. This paper demonstrates the capabilities of HISA by building an end-to-end software stack for evaluating neural network models on encrypted data. Our stack includes an end-to-end compiler, runtime, and a set of optimizations. Our approach shows generated code, on a set of popular neural network architectures, is faster than hand-optimized implementations.

연구 동기 및 목표

• 현재 저수준의 오류 발생 가능성이 높은 수동 튜닝이 필요로 하는 FHE 프로그래밍을 위한 고수준 추상화의 부족을 해결하기 위해.
• FHE 스킴의 발전을 컴파일러 및 런타임 개발에서 분리하여 독립적인 혁신을 가능하게 하기 위해.
• 암호화된 데이터에서 DNN 추론을 안전하고 효율적으로 컴파일하고 실행하는 종단 간 시스템을 구축하기 위해.
• 데이터 레이아웃 선택 및 로테이션 키 관리와 같은 성능에 민감한 최적화를 자동화하기 위해.
• 자동 컴파일링이 DNN을 위한 수동 최적화된 FHE 구현보다 뛰어난 성능을 낼 수 있음을 입증하기 위해.

제안 방법

• FHE 연산을 추상화하는 컴act한 인터페이스인 Homomorphic Instruction Set Architecture(HISA)의 설계 및 사양 정의.
• HISA를 사용하여 고수준 DNN 모델을 최적화된 FHE 컴파일 코드로 변환하는 컴파일러의 구현.
• 메모리 레이아웃, 실행 스케줄링, FHE 매개변수 관리를 효율적으로 관리하기 위한 런타임 시스템.
• HEAAN FHE 스킴에 특화된 비용 모델을 기반으로 각 모델에 최적의 데이터 레이아웃을 자동으로 선택.
• 노이즈 증가를 줄이고 성능을 향상시키기 위한 커널 융합 및 로테이션 키 최적화를 위한 컴파일러 패스.
• 비다항 함수 활성화 함수(예: ReLU)의 다항식 근사화를 통합하여 FHE 호환성을 확보함.

실험 결과

연구 질문

• RQ1 HISA와 같은 고수준 추상화가 FHE 스킴의 진화를 애플리케이션 수준의 컴파일러 및 런타임 개발에서 효과적으로 분리할 수 있는가?
• RQ2 DNN의 FHE 계산 비용을 최소화하기 위해 자동 데이터 레이아웃 선택이 얼마나 효과적인가?
• RQ3 커널 융합 및 로테이션 키 관리와 같은 컴파일러 최적화가 FHE 성능 향상에 얼마나 기여하는가?
• RQ4 자동 컴파일링이 DNN 추론을 위한 수동 최적화된 FHE 구현보다 뛰어난 성능을 낼 수 있는가?
• RQ5 시스템은 FHE 암호화된 DNN 추론에서 정밀도 및 노이즈 관리를 어떻게 처리하는가?

주요 결과

• CHET가 생성한 코드는 인기 있는 DNN들에서 수동 최적화된 구현보다 더 빠른 성능을 달성하여 자동 최적화의 효과성을 입증한다.
• 로테이션 키 최적화 패스는 평가된 모든 네트워크에서 성능 향상을 크게 개선하였으며, 그림 9에서 평균 지연 시간 감소가 관찰되었다.
• HEAAN 스킴에 맞춘 비용 모델 기반 자동 데이터 레이아웃 선택은 오류 발생 가능성이 높고 튜닝이 어려운 수동 선택보다 더 우수한 성능을 제공한다.
• 시스템은 현재까지 가장 깊은 FHE 기반 CNN을 성공적으로 컴파일하고 실행하여 완전 동형 암호화 하에 복잡한 모델을 구현할 수 있게 하였다.
• 활성화 함수에 대한 다항식 근사화의 사용은 FHE 호환성을 유지하면서도 높은 모델 정확도를 유지하는 데 기여하였다.