[논문 리뷰] Enabling Privacy-Preserving, Compute- and Data-Intensive Computing using Heterogeneous Trusted Execution Environment

Jianping Zhu, Rui Hou외 10명|arXiv (Cornell University)|2019. 04. 09.

Security and Verification in Computing참고 문헌 29인용 수 9

한 줄 요약

이 논문은 GPU 및 TPU와 같은 신뢰할 수 없는 가속기들을 안전하게 통합함으로써 기밀 유지, 고성능 컴퓨팅 및 데이터 집약적(CDI) 워크로드를 가능하게 하는 첫 번째 신뢰성 실행 환경(TEE)인 HETEE를 소개한다. 이는 PCIe 기반의 동적 파artitioning을 통해 가속기를 보안 세계와 비보안 세계 간에 안전하게 이관하는 독립형 보안 컨트롤러를 사용하며, 대규모 신경망에서 추론 시 12.34%의 성능 저하, 학습 시 9.87%의 성능 저하를 기록한다.

ABSTRACT

There is an urgent demand for privacy-preserving techniques capable of supporting compute and data intensive (CDI) computing in the era of big data. However, none of existing TEEs can truly support CDI computing tasks, as CDI requires high throughput accelerators like GPU and TPU but TEEs do not offer security protection of such accelerators. This paper present HETEE (Heterogeneous TEE), the first design of TEE capable of strongly protecting heterogeneous computing with unsecure accelerators. HETEE is uniquely constructed to work with today's servers, and does not require any changes for existing commercial CPUs or accelerators. The key idea of our design runs security controller as a stand-alone computing system to dynamically adjust the boundary of between secure and insecure worlds through the PCIe switches, rendering the control of an accelerator to the host OS when it is not needed for secure computing, and shifting it back when it is. The controller is the only trust unit in the system and it runs the custom OS and accelerator runtimes, together with the encryption, authentication and remote attestation components. The host server and other computing systems communicate with controller through an in memory task queue that accommodates the computing tasks offloaded to HETEE, in the form of encrypted and signed code and data. Also, HETEE offers a generic and efficient programming model to the host CPU. We have implemented the HETEE design on a hardware prototype system, and evaluated it with large-scale Neural Networks inference and training tasks. Our evaluations show that HETEE can easily support such secure computing tasks and only incurs a 12.34% throughput overhead for inference and 9.87% overhead for training on average.

연구 동기 및 목표

• 빅데이터 워크로드에서 기밀 유지, 고처리량 컴퓨팅의 급박한 필요를 해결한다.
• 기존 TEE가 GPU 및 TPU와 같은 가속기를 지원하지 못하는 한계를 극복한다.
• CPU나 가속기의 수정 없이도 일반 서버에서 컴퓨팅 및 데이터 집약적(CDI) 워크로드를 안전하게 실행할 수 있도록 한다.
• 신뢰할 수 있는 환경과 비신뢰할 수 있는 환경 간에 가속기 제어를 동적으로 가능하게 하면서도 강력한 보안을 유지하는 시스템을 설계한다.
• 보안 환경으로의 작업 오프로딩을 위한 일반적이고 효율적인 프로그래밍 모델을 제공한다.

제안 방법

• PCIe 스위치를 제어하여 가속기의 소유권을 호스트 OS와 보안 세계 간에 동적으로 이관하는 유일한 신뢰 기반으로 독립형 보안 컨트롤러를 구현한다.
• 호스트 시스템과 HETEE 컨트롤러 간의 안전한 통신을 위해 메모리 내 암호화 및 서명된 작업 큐를 사용한다.
• 보안 컨트롤러 내부에 맞춤형 운영체제, 런타임, 암호화, 인증, 원격 진단 구성 요소를 구현한다.
• 호스트 CPU가 암호화된 코드와 데이터를 사용해 HETEE로 작업을 오프로딩할 수 있도록 일반적인 프로그래밍 모델을 설계한다.
• 기존 상용 CPU나 가속기의 변경 없이도 후행 호환성을 확보한다.
• PCIe 기반의 격리 기술을 활용해 가속기를 보호하면서도 고처리량 데이터 및 컴퓨팅 워크로드를 지원한다.

실험 결과

연구 질문

• RQ1 기존 TEE가 본질적으로 보호하지 못하는 GPU 및 TPU와 같은 가속기를 TEE가 어떻게 안전하게 지원할 수 있는가?
• RQ2 하드웨어를 수정하지 않고도 보안 세계와 비보안 세계 간에 가속기 접근을 동적으로 세밀하게 제어할 수 있는 아키텍처 설계는 무엇인가?
• RQ3 독립형 보안 컨트롤러가 이질적인 가속기의 신뢰 경계를 효과적으로 관리하면서도 고성능을 유지할 수 있는가?
• RQ4 대규모 머신러닝 워크로드에 대해 보안적이고 가속기 통합된 TEE는 어떤 성능 저하를 초래하는가?
• RQ5 CDI 작업을 보안 실행 환경으로 오프로딩하는 데 적합한 일반적이고 효율적인 프로그래밍 모델을 어떻게 설계할 수 있는가?

주요 결과

• HETEE는 기밀 유지 방식으로 대규모 신경망 추론 및 학습 워크로드를 성공적으로 지원한다.
• GPU 가속 워크로드에서 추론 작업에 대해 평균 12.34%의 성능 저하만을 기록한다.
• 학습 워크로드의 경우, 가속기를 사용할 때 HETEE는 평균 9.87%의 성능 저하만을 기록한다.
• 보안 컨트롤러는 유일한 신뢰 기반으로 작동하여 모든 보안 작업에 대해 강력한 격리와 원격 진단을 보장한다.
• 기존 상용 CPU 및 가속기와 완전히 호환되며, 하드웨어 수정 없이도 작동한다.
• 메모리 내 작업 큐를 통해 호스트와 HETEE 간에 암호화된 코드와 데이터를 효율적이고 안전하게 오프로딩할 수 있다.