[논문 리뷰] MgX: Near-Zero Overhead Memory Protection with an Application to Secure DNN Acceleration

Weizhe Hua, Muhammad Umar외 2명|arXiv (Cornell University)|2020. 04. 20.

Adversarial Robustness in Machine Learning참고 문헌 55인용 수 4

한 줄 요약

MgX는 하드웨어 가속기에서 near-zero 오버헤드 메모리 보호 기법으로, 응용 프로그램 전용 데이터 이동 패턴을 활용하여 메모리에 리비전 번호를 저장할 필요 없이 보호 기능을 구현하고, 가속기 데이터 객체의 크기에 맞게 보호의 세분성 수준을 맞춤 설정한다. 최신 아키텍처에서 DNN 추론 및 학습 모두에 대해 1% 미만의 성능 오버헤드를 달성한다.

ABSTRACT

In this paper, we propose MgX, a near-zero overhead memory protection scheme for hardware accelerators. MgX minimizes the performance overhead of off-chip memory encryption and integrity verification by exploiting the application-specific aspect of accelerators. Accelerators tend to explicitly manage data movement between on-chip and off-chip memory, typically at an object granularity that is much larger than cache lines. Exploiting these accelerator-specific characteristics, MgX generates version numbers used in memory encryption and integrity verification only using on-chip state without storing them in memory, and also customizes the granularity of the memory protection to match the granularity used by the accelerator. To demonstrate the applicability of MgX, we present an in-depth study of MgX for deep neural network (DNN) and also describe implementations for H.264 video decoding and genome alignment. Experimental results show that applying MgX has less than 1% performance overhead for both DNN inference and training on state-of-the-art DNN architectures.

연구 동기 및 목표

• 하드웨어 가속기에서 외부 메모리 암호화 및 무결성 검증의 높은 성능 오버헤드 문제를 해결한다.
• 가속기 전용 데이터 이동 패턴을 활용하여 객체 수준의 세분성으로 메모리 보호 비용을 감소시킨다.
• 암호화 및 무결성 검증에 사용되는 리비전 번호를 외부 메모리에 저장하는 데 의존도를 최소화한다.
• 가속기의 데이터 이동 단위에 맞게 메모리 보호의 세분성 수준을 맞춤 설정하여 불필요한 오버헤드를 방지한다.
• 실세계 가속기 워크로드(예: DNN, H.264 디코딩, 게놈 정렬 등)에서의 실용성과 성능 효율성을 입증한다.

제안 방법

• 리비전 번호를 외부 메모리에 저장할 필요 없이, 오직 온칩 상태에서만 생성함으로써 메모리 암호화 및 무결성 검증을 위한 리비전 번호를 생성한다.
• 가속기가 데이터 이동을 객체 수준의 세분성으로 관리하며 캐시 라인보다 더 큰 단위임을 활용하여, 메모리 보호 경계를 이러한 단위와 일치시킨다.
• 가속기 전용 제어 논리를 사용해 내부적으로 리비전 번호를 추적하고 업데이트함으로써 외부 메모리 접근을 피한다.
• 가속기의 데이터 이동 객체에 맞게 메모리 보호의 세분성 수준을 맞춤 설정하여 보호 작업의 수를 줄인다.
• 가속기의 데이터 경로에 통합하여 메모리 트랜잭션 중 실시간으로 암호화 및 무결성 검증을 효율적으로 수행할 수 있도록 한다.
• 응용 프로그램에 대해 투명하고 기존 가속기 파ip라인과 호환되도록 보호 메커니즘을 설계한다.

실험 결과

연구 질문

• RQ1 응용 프로그램 전용 데이터 이동 패턴을 활용함으로써 가속기에서 메모리 보호 오버헤드를 near-zero 수준으로 낮출 수 있는가?
• RQ2 암호화 및 무결성 검증을 위한 리비전 번호를 오직 온칩 상태만을 사용해 생성하고 관리할 수 있는 정도는 어느 정도인가?
• RQ3 가속기 데이터 이동 객체에 맞게 메모리 보호의 세분성 수준을 조정하면 성능 오버헤드에 어떤 영향을 미치는가?
• RQ4 MgX는 실세계 가속기 워크로드(예: DNN 추론 및 학습)에 대해 어떤 성능 영향을 미치는가?
• RQ5 MgX는 DNN 이외의 다양한 가속기 워크로드(예: 영상 디코딩 및 게놈 정렬)에도 효과적으로 적용될 수 있는가?

주요 결과

• MgX는 최신 DNN 아키텍처에서 DNN 추론에 대해 1% 미만의 성능 오버헤드를 달성한다.
• MgX는 최신 DNN 아키텍처에서 DNN 학습에 대해 1% 미만의 성능 오버헤드를 달성한다.
• 리비전 번호를 외부 메모리에 저장할 필요 없이 오직 온칩 상태에서만 생성함으로써 이를 제거한다.
• 가속기 데이터 이동 객체에 맞게 보호의 세분성 수준을 조정함으로써 암호화 및 무결성 검사의 수를 줄였다.
• H.264 영상 디코딩 및 게놈 정렬용 가속기 등 다양한 가속기 유형에 적용 가능하여 광범위한 호환성을 입증했다.
• 보안을 훼손하지 않으면서도 강력한 메모리 기밀성 및 무결성 보장을 유지하며 MgX의 성능 효율성을 달성했다.