[논문 리뷰] AutoFHE: Automated Adaption of CNNs for Efficient Evaluation over FHE

Wei Ao, Vishnu Naresh Boddeti|arXiv (Cornell University)|2023. 10. 12.

Adversarial Robustness in Machine LearningComputer Science인용 수 3

한 줄 요약

AutoFHE는 RNS-CKKS 기반으로 표준 CNN을 효율적인 동형 평가에 적합하도록 자동으로 다중 목적 최적화하는 프레임워크를 제안한다. 이는 계층별 혼합 차수 다항식 근사와 부트스트랩핑 배치를 동시에 최적화하여, 저차수 방법 대비 최대 1.8배 빠른 추론 속도와 2.56% 높은 정확도를 달성하며, TFHE 기반 접근 방식 대비 103배의 속도 향상을 이룬다. 이는 어떤 CNN 아키텍처에도 적용 가능하며 정확도-지연 시간 간의 탄력적인 트레이드오���을 지원한다.

ABSTRACT

Secure inference of deep convolutional neural networks (CNNs) under RNS-CKKS involves polynomial approximation of unsupported non-linear activation functions. However, existing approaches have three main limitations: 1) Inflexibility: The polynomial approximation and associated homomorphic evaluation architecture are customized manually for each CNN architecture and do not generalize to other networks. 2) Suboptimal Approximation: Each activation function is approximated instead of the function represented by the CNN. 3) Restricted Design: Either high-degree or low-degree polynomial approximations are used. The former retains high accuracy but slows down inference due to bootstrapping operations, while the latter accelerates ciphertext inference but compromises accuracy. To address these limitations, we present AutoFHE, which automatically adapts standard CNNs for secure inference under RNS-CKKS. The key idea is to adopt layerwise mixed-degree polynomial activation functions, which are optimized jointly with the homomorphic evaluation architecture in terms of the placement of bootstrapping operations. The problem is modeled within a multi-objective optimization framework to maximize accuracy and minimize the number of bootstrapping operations. AutoFHE can be applied flexibly on any CNN architecture, and it provides diverse solutions that span the trade-off between accuracy and latency. Experimental evaluation over RNS-CKKS encrypted CIFAR datasets shows that AutoFHE accelerates secure inference by $1.32 imes$ to $1.8 imes$ compared to methods employing high-degree polynomials. It also improves accuracy by up to 2.56% compared to methods using low-degree polynomials. Lastly, AutoFHE accelerates inference and improves accuracy by $103 imes$ and 3.46%, respectively, compared to CNNs under TFHE.

연구 동기 및 목표

• FHE-보안 CNN 추론을 위한 수동적이고 아키텍처에 특화된 다항식 근사의 유연성 부족 문제를 해결하기 위해.
• 전체 네트워크 함수가 아닌 개별 활성화 함수의 부적절한 근사 문제를 해결하기 위해.
• 고차수(정확도는 높지만 느림)와 저차수(빠르지만 정확도 낮음) 다항식 근사 간의 트레이드오��� 문제를 해결하기 위해.
• RNS-CKKS 기반에서 어떤 CNN 아키텍처라도 자동으로 확장 가능하고 탄력적으로 적응 가능한 프레임워크를 제공하기 위해.
• 정확도-지연 시간 간 파레토 최적 트레이드오푸를 달성하기 위해 계층별 다항식 차수와 부트스트랩핑 배치를 공동 최적화하기 위해.

제안 방법

• AutoFHE는 계층별 혼합 차수 다항식 활성화 함수를 포함한 고유한 검색 공간에서의 다중 목적 최적화 문제로 적응 문제를 수립한다.
• 모델 정확도와 부트스트랩핑 연산 수 사이의 트레이드오푸를 탐색하기 위해 다중 목적 탐색 알고리즘(MOS)을 활용한다.
• 더 높은 근사 정확도를 확보하기 위해 다항식 계수를 정밀하게 조정하는 복합 다항식 계수 최적화 방법(R-CCDE)을 제안한다.
• 혼합 차수 다항식 활성화 함수를 통합한 엔드 투 엔드 학습을 가능하게 하는 다항식 인식 학습 전략(PAT)을 도입한다.
• RNS-CKKS 환경에서 정확도를 유지하면서 지연 시간을 최소화하기 위해 계층별 다항식 차수와 부트스트랩핑 배치를 공동 최적화한다.
• 모든 표준 CNN 아키텍처를 지원하며, 정확도-지연 시간 파레토 경계를 모두 커버하는 다양한 솔루션 세트를 생성한다.

실험 결과

연구 질문

• RQ1 자동화된 방법이 다항식 근사 차수와 부트스트랩핑 배치를 동시에 최적화하여 FHE 추론 효율성을 향상시킬 수 있는가?
• RQ2 계층별 혼합 차수 다항식 근사가 균일한 저차수 또는 고차수 근사보다 정확도와 지연 시간 측면에서 뛰어나게 작용하는가?
• RQ3 이 프레임워크는 수동 재설계 없이도 임의의 CNN 아키텍처에 탄력적으로 적용될 수 있는가?
• RQ4 AutoFHE는 고차수 다항식 방법 대비 추론 속도와 정확도에서 어떤 성능 향상을 보이는가?
• RQ5 AutoFHE는 TFHE 기반 접근 방식 대비 지연 시간과 정확도 측면에서 얼마나 향상되는가?

주요 결과

• AutoFHE는 RNS-CKKS 환경에서 고차수 다항식 방법 대비 보안 추론 속도를 1.32배에서 1.8배까지 향상시켰다.
• AESPA와 같은 저차수 다항식 방법 대비 최대 2.56% 높은 top-1 정확도를 확보했다.
• TFHE 기반 모델(REDsec) 대비 추론 지연 시간을 103배 빠르게 하고 정확도를 3.46% 높였다.
• 프레임워크는 주어진 모든 CNN 아키텍처에 대해 정확도-지연 시간 파레토 경계를 모두 커버하는 다양한 파레토 최적 솔루션 세트를 생성한다.
• 혼합 차수 다항식과 부트스트랩핑 배치의 공동 최적화는 수동 설계 또는 균일 차수 최적화 방법 대비 뛰어난 성능을 달성한다.
• 제안된 다중 목적 탐색 및 학습 파이프라인(MOS, R-CCDE, PAT)은 FHE 적응 CNN의 광범위한 검색 공간을 효과적으로 탐색한다.