[논문 리뷰] Confidential Deep Learning: Executing Proprietary Models on Untrusted Devices

Peter M. VanNostrand, Ioannis Kyriazis외 3명|arXiv (Cornell University)|2019. 08. 28.

Privacy-Preserving Technologies in Data참고 문헌 12인용 수 18

한 줄 요약

이 논문은 신뢰할 수 없는 모바일 디바이스에서 기밀로 유지해야 할 고도로 발전된 딥러닝 모델을 실행하기 위해 ARM TrustZone을 활용하여 기밀성 있는 실행을 제안한다. 신뢰할 수 있는 실행 환경을 통해 모델 가중치와 추론 로직을 보호하며, 핵심 컴포넌트를 안전한 세계에서 실행하면서 성능 오버헤드를 최소화하는 계층 기반의 모델 분할 전략을 도입한다. 이는 엣지 AI 구현에서 지적 재산권을 보호할 수 있는 실현 가능한 길을 제시한다.

ABSTRACT

Performing deep learning on end-user devices provides fast offline inference results and can help protect the user's privacy. However, running models on untrusted client devices reveals model information which may be proprietary, i.e., the operating system or other applications on end-user devices may be manipulated to copy and redistribute this information, infringing on the model provider's intellectual property. We propose the use of ARM TrustZone, a hardware-based security feature present in most phones, to confidentially run a proprietary model on an untrusted end-user device. We explore the limitations and design challenges of using TrustZone and examine potential approaches for confidential deep learning within this environment. Of particular interest is providing robust protection of proprietary model information while minimizing total performance overhead.

연구 동기 및 목표

• 신뢰할 수 없는 최종 사용자 디바이스에서 실행될 때 기밀로 유지해야 할 고도로 발전된 딥러닝 모델의 기밀성을 해결하기 위해.
• ARM TrustZone의 신뢰할 수 있는 실행 환경(Tee) 내에서 DNN 추론을 실행하는 것의 실현 가능성과 성능 트레이드오프를 탐색하기 위해.
• TEE 내에서 보안, 성능, 메모리 제약 조건을 균형 잡는 모델 분할 전략을 설계하기 위해.
• TEE 기반 딥러닝 실행에서 존재하는 사이드 채널 취약점을 식별하고 이를 완화하기 위해.
• 모바일 디바이스에서 보안적이고, 생산 환경에서 사용 가능한 기밀 추론을 위한 기반을 마련하기 위해.

제안 방법

• 기본적으로 신뢰할 수 없는 일반 세계 OS로부터 분리된 하드웨어적으로 격리된 안전한 세계를 생성하기 위해 ARM TrustZone을 활용하여 기밀 모델 실행을 위한 환경를 조성한다.
• OP-TEE를 TEE 구현으로 사용하여 RSA 서명된 신뢰할 수 있는 애플리케이션과 안전한 메모리 격리 방식을 통해 코드 무결성을 강제한다.
• 일반화된 계층 기반 분할 접근 방식을 제안하여 DNN의 개별 레이어가 안전한 세계에서 실행될 수 있도록 하며, 이는 이전의 두 부분 분할 방식과는 다릅니다.
• Sutton 등에 의해 영감을 얻은 분기 실행 분할 방식을 도입하여 비균일한 레이어 분포를 가능하게 하여 성능과 메모리 사용을 최적화한다.
• 신뢰할 수 있는 애플리케이션의 무결성을 검증하기 위해 원격 인증을 활용하고, 루트 오브 트러스트를 확립하기 위해 보안 부팅을 구현한다.
• 메모리 접근 패턴과 타이밍 변동성과 같은 사이드 채널 유출을 방지하기 위해 데이터 무관 실행을 설계한다.

실험 결과

연구 질문

• RQ1 기본적으로 신뢰할 수 없는 모바일 디바이스에서 실행될 때 모델 가중치나 아키텍처를暴露하지 않고 기밀로 유지해야 할 고도로 발전된 딥러닝 모델을 어떻게 안전하게 실행할 수 있는가?
• RQ2 제한된 안전한 메모리가 있는 ARM TrustZone의 TEE 내에서 DNN 추론을 실행할 경우 성능과 엔지니어링 트레이드오프는 어떠한가?
• RQ3 성능과 메모리 활용도를 향상시키기 위해 두 부분 분할을 넘어서 일반화된 모델 분할 전략은 어떻게 설계할 수 있는가?
• RQ4 TEE 기반 딥러닝에서 존재하는 사이드 채널 취약점은 무엇이며, 알고리즘적 강화를 통해 이를 어떻게 완화할 수 있는가?
• RQ5 기밀 모델의 안전하고 확장 가능한 배포를 가능하게 하기 위해 필요한 시스템 수준 메커니즘(예: 키 관리, 원격 인증)은 무엇인가?

주요 결과

• 계층 기반 분할은 안전한 세계에서 실행되는 모델 컴포넌트에 대한 세밀한 제어를 가능하게 하여, 단일 또는 두 부분 분할 대비 더 높은 메모리 효율성과 성능 향상을 이룬다.
• 분기 실행 분할 방식을 통해 전체 모델을 신뢰할 수 없는 환경으로 이관하는 것을 피하고, 더 나은 로드 밸런싱과 지연 시간 감소를 달성할 수 있다.
• 격리된 메모리와 제한된 시스템 콜 지원으로 인해 TEE 실행에는 본질적인 성능 오버헤드가 존재하지만, 분할 전략을 통해 이 영향을 완화할 수 있다.
• 사이드 채널 공격은 여전히 치명적인 위협으로 남아 있으며, 특히 메모리 접근 패턴과 타이밍 변동성과 같은 관찰 가능한 실행 패턴을 통해 발생하므로, 데이터 무관 알고리즘 설계가 필요하다.
• 원격 인증과 보안 키 배포는 신뢰할 수 있는 애플리케이션의 무결성 검증과 대규모 배포에서 모델 기밀성 보호를 위해 필수적이다.
• TEE OS의 변조를 방지하기 위해 하드웨어 기반의 루트 오브 트러스트와 보안 부팅이 필요하며, 이는 디바이스 제조사와의 협업이 필수적임을 시사한다.