[논문 리뷰] CaRENets: Compact and Resource-Efficient CNN for Homomorphic Inference on Encrypted Medical Images

Chao Jin, Ahmad Al Badawi외 10명|arXiv (Cornell University)|2019. 01. 29.

Cryptography and Data Security참고 문헌 31인용 수 14

한 줄 요약

CaRENets는 고해상도 암호화된 의료 영상에서 완전한 동형 암호화(FHE) 기반 추론을 위한 컴act하고 자원 효율적인 CNN 프레임워크를 제안한다. 기존의 겹침 패킹 방식에 비해 45배 높은 메모리 효율성과 4–5배 빠른 추론 속도를 달성하기 위해, CNN 연산과 밀접하게 통합된 새로운 FHE 패킹 기법을 도입함으로써, 임상 환경에서 망막 영상 분석을 위한 실용적인 개인정보 보호 기반 딥러닝을 가능하게 한다.

ABSTRACT

Convolutional neural networks (CNNs) have enabled significant performance leaps in medical image classification tasks. However, translating neural network models for clinical applications remains challenging due to data privacy issues. Fully Homomorphic Encryption (FHE) has the potential to address this challenge as it enables the use of CNNs on encrypted images. However, current HE technology poses immense computational and memory overheads, particularly for high-resolution images such as those seen in the clinical context. We present CaRENets: Compact and Resource-Efficient CNNs for high performance and resource-efficient inference on high-resolution encrypted images in practical applications. At the core, CaRENets comprises a new FHE compact packing scheme that is tightly integrated with CNN functions. CaRENets offers dual advantages of memory efficiency (due to compact packing of images and CNN activations) and inference speed (due to the reduction in the number of ciphertexts created and the associated mathematical operations) over standard interleaved packing schemes. We apply CaRENets to perform homomorphic abnormality detection with 80-bit security level in two clinical conditions - Retinopathy of Prematurity (ROP) and Diabetic Retinopathy (DR). The ROP dataset comprises 96 x 96 grayscale images, while the DR dataset comprises 256 x 256 RGB images. We demonstrate over 45x improvement in memory efficiency and 4-5x speedup in inference over the interleaved packing schemes. As our approach enables memory-efficient low-latency HE inference without imposing additional communication burden, it has implications for practical and secure deep learning inference in clinical imaging.

연구 동기 및 목표

• 클라우드 기반 추론 중 환자 데이터가 암호화된 상태로 유지되어야 하는 임상 영상에서 개인정보 보호 기반 딥러닝을 구현하는 데 있어 핵심 과제를 해결한다.
• 고해상도 의료 영상(예: 256×256 RGB)에 대해 기존의 완전한 동형 암호화(FHE) 기법을 적용할 경우 발생하는 금지적인 계산 및 메모리 오버헤드를 극복한다.
• 조현성, 조기 퇴원 등 망막 영상 스크리닝과 같은 실생활 임상 응용 분야에서 실용적이고 저지연 추론을 가능하게 한다.
• 암호화된 데이터의 복합성과 연산 수를 줄여 메모리 효율성과 추론 속도를 향상시키기 위해 컴act한 패킹 전략을 설계한다.
• 통신 또는 하드웨어 부담을 증가시키지 않고도 암호화된 망막 영상에서 안전하고 효율적인 CNN 추론의 가능성을 입증한다.

제안 방법

• FHE 암호화된 데이터 구조에서의 중복을 최소화하여 행렬과 벡터를 더 적은 암호문으로 효율적으로 매핑하는 새로운 컴act 패킹 기법을 도입한다.
• 컴act 패킹 전략을 기반으로 한 호환성 있는 행렬 연산 라이브러리인 A∗HEMAT을 개발하여 암호화된 행렬에서 덧셈, 곱셈, 전치 연산을 지원한다.
• 컴act 패킹 전략과 최적화된 행렬-벡터 곱셈을 CNN 레이어에 밀접하게 통합하여 암호문 수와 관련된 동형 연산 수를 감소시킨다.
• 의료 영상 워크로드에 적합한 보안(80비트)과 성능의 균형을 맞추기 위해 FHE 파라미터 공간(예: log₂n = 14, log₂q = 660)을 최적화한다.
• CPU 기반 FHE 스택을 사용하여 실제 임상 데이터셋(ROP: 96×96 Grayscale; DR: 256×256 RGB)에 대해 구현하고 성능을 벤치마킹한다.
• 기존의 표준 겹침 패킹 방식과 비교하여 메모리 사용량, 추론 시간, 보안 수준 측면에서 성능을 평가한다.

실험 결과

연구 질문

• RQ1 컴act한 FHE 패킹 전략은 고해상도 의료 영상에서 동형 CNN 추론의 메모리 및 계산 오버헤드를 크게 줄일 수 있는가?
• RQ2 임상 영상 워크로드에서 기존의 겹침 패킹 방식에 비해 제안된 패킹 전략이 추론 속도와 메모리 효율성에서 얼마나 향상되는가?
• RQ3 256×256 RGB 망막 영상에서 FHE를 사용해 수용 가능한 지연 시간과 자원 사용량으로 개인정보 보호 기반 CNN 추론을 수행하는 것은 가능한가?
• RQ4 모델 정확도와 계산 효율성의 상호 교환 관계는 자원 제약이 있는 FHE 기반 CNN에서 어떻게 나타나는가?
• RQ5 제안된 방법은 암호화된 데이터에서 안전하고 저지연 추론이 필요한 다른 의료 영상 응용 분야로 일반화될 수 있는가?

주요 결과

• CaRENets는 표준 겹침 패킹 방식 대비 45배 이상의 메모리 효율성 향상을 달성하여, 96×96 영상의 경우 메모리 사용량을 135 GB에서 2.94 GB로 감소시켰다.
• ROP 데이터셋에서 추론 시간을 4–5배 빠르게 하여, 3946.4초에서 994.9초로 감소시켰다.
• 더 높은 요구 수준의 256×256 RGB IDRiD 데이터셋에 대해서는, 겹침 패킹 방식이 188 GB 이상이 필요해 메모리 고갈로 실패한 반면, CaRENets는 오직 17.2 GB의 메모리로 추론을 성공적으로 수행했다.
• IDRiD 데이터셋에서 컴act 패킹 전략은 17.2 GB의 메모리로 6004.7초 만에 추론을 수행하여 고해상도 임상 영상으로의 확장성을 입증했다.
• 모든 실험에서 80비트 보안 수준을 유지하여 강력한 암호학적 보장을 확보하면서도 성능에 영향을 주지 않았다.
• 결과적으로 컴act 패킹 전략이 실생활 스크리닝 응용에 적합한 실용적이고 저지연, 메모리 효율적인 동형 추론을 가능하게 함을 검증했다.