[논문 리뷰] TenSEAL: A Library for Encrypted Tensor Operations Using Homomorphic Encryption

Ayoub Benaissa, Bilal Retiat외 2명|arXiv (Cornell University)|2021. 04. 07.

Cryptography and Data Security인용 수 83

한 줄 요약

TenSEAL은 CKKS 호모모픽 암호화를 사용하여 암호화된 텐서 계산을 제공하는 오픈 소스 라이브러리로, 암호화된 데이터에서의 ML 추론과 PyTorch/TensorFlow와의 쉬운 통합을 가능하게 한다. MNIST에서 암호화된 추론으로 CNN을 시연하며, 1초 이하면 암호화 추론이 가능하고 통신은 0.5 MB 미만이다.

ABSTRACT

Machine learning algorithms have achieved remarkable results and are widely applied in a variety of domains. These algorithms often rely on sensitive and private data such as medical and financial records. Therefore, it is vital to draw further attention regarding privacy threats and corresponding defensive techniques applied to machine learning models. In this paper, we present TenSEAL, an open-source library for Privacy-Preserving Machine Learning using Homomorphic Encryption that can be easily integrated within popular machine learning frameworks. We benchmark our implementation using MNIST and show that an encrypted convolutional neural network can be evaluated in less than a second, using less than half a megabyte of communication.

연구 동기 및 목표

• MLaaS 시나리오에서 입력과 출력이 암호화된 상태로 유지되는 프라이버시 보호 머신러닝을 추진한다.
• 인기 ML 프레임워크의 텐서를 암호화된 텐서로 매핑하는 유연한 라이브러리를 제공한다.
• 낮은 통신 오버헤드를 갖춘 실용적인 암호화 뉴럴넷 평가를 시연한다.
• Microsoft SEAL을 통한 CKKS를 사용하여 암호화된 데이터에 텐서 연산과 CNN 원시 연산을 가능하게 한다.

제안 방법

• ML 프레임워크와 동형암호화 간 브리지 역할을 하는 오픈 소스 TenSEAL 라이브러리를 구축한다.
• 구현의 기반을 CKKS에 두고 PlainTensor 및 EncryptedTensor 추상화를 노출한다.
• 텐서 연산(add, sub, mul, dot_product, matmul, polyval)과 전문 커널(im2col for conv2d)을 구현한다.
• CKKS의 배치를 활용하여 암호문 수와 연산 깊이를 최소화하도록 텐서를 효율적으로 인코딩한다.
• 이미지를 단일 암호문으로 인코딩하고 im2col 및 배치된 점곱으로 합성곱을 수행하여 암호화된 CNN 추론을 시연한다.

실험 결과

연구 질문

• RQ1 CKKS를 통한 암호화 텐서 연산이 허용 가능한 대기 시간과 통신 오버헤드를 갖춘 실용적인 CNN 추론을 지원할 수 있는가?
• RQ2 정확도를 보존하면서 곱 깊이 및 암호문 수를 최소화하도록 TenSEAL이 텐서를 인코딩하고 연산할 수 있는 방법은 무엇인가?
• RQ3 대표적인 클라우드 하드웨어에서 암호화된 MNIST 추론의 성능 특성(시간, 대역폭)은 어떠한가?

주요 결과

• MNIST에서 암호화된 데이터에 대한 암호화 CNN은 97.4% 정확도, 평문에서는 97.7%.
• 암호화 평가 시간은 8코어 AWS c4.2xlarge에서 전체 순전파 약 1.46초, 16코어 AWS c4.4xlarge에서 0.89초를 보인다.
• 암호화 추론의 통신은 입력 및 출력에 대해 약 427 KB이다.
• 라이브러리는 이미지에 대한 단일 암호문 인코딩과 im2col 스타일 합성곱을 사용하여 각 합성곱당 회전 수를 log2(N)으로 감소시킨다.
• TenSEAL은 CKKS를 사용한 텐서 연산이 적절한 매개변수 선택(예: 8192 모듈러 차수, 200비트 계수 모듀스)으로 ML 작업에 실용적임을 보여준다.
• 이 접근법은 프런트엔드와의 병렬 처리 및 통합 단순성을 강조하는 한편, CKKS의 곱 깊이와 비선형 활성화 함수의 한계를 인정한다.