[논문 리뷰] nGraph-HE: A Graph Compiler for Deep Learning on Homomorphically Encrypted Data

Fabian Boemer, Yixing Lao외 2명|arXiv (Cornell University)|2018. 10. 23.

Cryptography and Data Security인용 수 23

한 줄 요약

nGraph-HE는 Intel의 nGraph에 대한 그래프 컴파일러 확장으로, 딥러닝 모델을 암호화된 데이터에서 실행할 수 있도록 하며, 코드 변경을 최소화합니다. 동형 암호화를 최우선 하드웨어 대상으로 간주함으로써 컴파일 시점과 런타임에 HE 인식 최적화를 적용하여, 다중 곱셈 깊이 감소 및 HE-SIMD 패킹을 통해 최대 1.2배의 성능 향상을 이룹니다.

ABSTRACT

Homomorphic encryption (HE)---the ability to perform computation on encrypted data---is an attractive remedy to increasing concerns about data privacy in deep learning (DL). However, building DL models that operate on ciphertext is currently labor-intensive and requires simultaneous expertise in DL, cryptography, and software engineering. DL frameworks and recent advances in graph compilers have greatly accelerated the training and deployment of DL models to various computing platforms. We introduce nGraph-HE, an extension of nGraph, Intel's DL graph compiler, which enables deployment of trained models with popular frameworks such as TensorFlow while simply treating HE as another hardware target. Our graph-compiler approach enables HE-aware optimizations-- implemented at compile-time, such as constant folding and HE-SIMD packing, and at run-time, such as special value plaintext bypass. Furthermore, nGraph-HE integrates with DL frameworks such as TensorFlow, enabling data scientists to benchmark DL models with minimal overhead.

연구 동기 및 목표

• GDPR와 같은 규정에 대응하기 위한 프라이버시 보장 기계학습의 증가하는 수요를 해결하기 위해.
• 현재 딥러닝, 암호학, 시스템 프로그래밍에 깊은 전문 지식이 필요한 동형 암호화된 데이터 기반의 딥러닝 모델 배포의 복잡성을 줄이기 위해.
• 데이터 과학자가 최소한의 수정으로 텐서플로우와 같은 익숙한 프레임워크를 사용해 훈련된 모델을 암호화된 데이터에서 배포할 수 있도록 하기 위해.
• 그래프 컴파일러 스택 내에서 동형 암호화를 최우선 하드웨어 대상으로 통합하여 저수준 암호학적 복잡성을 추상화하기 위해.
• 컴파일 시점과 런타임에 HE 인식 최적화를 통해 프라이버시 보장 추론을 가속화하기 위해.

제안 방법

• nGraph-HE는 Intel의 nGraph 그래프 컴파일러를 확장하여 동형 암호화(HE)를 최우선 하드웨어 대상으로 간주함으로써, 암호화된 데이터에서 모델 배포를 가능하게 합니다.
• 딥러닝 계산을 표현하기 위해 중간 표현(IR)을 사용하고, 컴파일 시점에 배치 정규화 접기 및 HE-SIMD 패킹과 같은 HE 인식 최적화를 적용합니다.
• SEAL 라이브러리 통합을 통해 BFV 및 CKKS와 같은 여러 HE 체계를 지원하여 영향력 있는 배포 유연성을 확보합니다.
• 실행 시점에 알려진 값에 대해 특수한 플레인텍스트 값 건너뛰기 기능을 제공하여, 불필요한 암호화를 방지하고 성능을 향상시킵니다.
• 텐서플로우와 같은 프레임워크와의 종단 간 통합을 지원하여, 최소한의 코드 변경으로 모델 변환을 가능하게 하며, 예를 들어 HE 추론을 활성화하기 위해 단 한 줄의 코드 추가로 구현할 수 있습니다.
• 계산 깊이 분 析 기반으로 자동으로 HE 보안 매개변수를 선택할 수 있으며, 향후 컴파일 시점 자동화 가능성도 존재합니다.

실험 결과

연구 질문

• RQ1 딥러닝에서 동형 암호화를 최우선 하드웨어 대상으로 간주할 수 있도록 그래프 컴파일러를 확장할 수 있는가?
• RQ2 컴파일 시점과 런타임에 효과적으로 HE 인식 최적화를 적용하여 암호화된 데이터에서의 성능을 향상시킬 수 있는가?
• RQ3 텐서플로우와 같은 기존 딥러닝 프레임워크는 얼마나 최소한의 코드 변경으로 프라이버시 보장 추론을 지원할 수 있는가?
• RQ4 배치 정규화 접기 및 HE-SIMD 패킹과 같은 HE 최적화를 적용할 경우 발생하는 성능 및 정확도의 상충 관계는 어떠한가?
• RQ5 모델의 계산 깊이를 자동으로 분석하고 이를 기반으로 HE 보안 매개변수 선택을 안내할 수 있는가?

주요 결과

• nGraph-HE는 단 한 줄의 코드 추가로 HE 추론을 활성화함으로써, 훈련된 딥러닝 모델을 동형 암호화된 데이터에서 배포할 수 있습니다.
• 배치 정규화 접기를 통해 다중 곱셈 깊이를 감소시켜 암호화된 데이터에서 최대 1.2배의 성능 향상을 달성하였으며, 이는 덜한 암호화 모듈러스 수를 허용하고 성능을 향상시킵니다.
• HE-SIMD 패킹을 통해 최대 8192장의 이미지가 한 번에 배치로 처리되어 처리량과 슬롯 활용률이 크게 향상됩니다.
• BN 접기를 활성화한 경우, CIFAR-10 네트워크의 다중 곱셈 깊이는 10에서 8로 감소하여 정확도를 유지하면서도 보안 수준을 낮춘(128 < λ < 192) 상태로 구현 가능합니다.
• 다양한 설정에서도 다항식 활성화 및 기울기 클리핑을 통해 오버플로우를 방지함으로써, CIFAR-10에서 62.2%의 높은 정확도를 유지합니다.
• CIFAR-10 추론의 런타임은 10회 시험 기준 1321초에서 1651초 사이이며, 평균 런타임은 1장당 0.161~0.202초로, 실용적인 타당성을 입증합니다.