[논문 리뷰] Memory DoS Attacks in Multi-tenant Clouds: Severity and Mitigation

Tianwei Zhang, Yinqian Zhang외 1명|arXiv (Cornell University)|2016. 03. 10.

Security and Verification in Computing참고 문헌 65인용 수 13

한 줄 요약

이 논문은 다중 임차 환경에서 공유된 하드웨어 메모리 자원을 악용하여 동일 물리 호스트에 함께 배치된 공격 대상 가상머신(VM)의 성능을 악화시키는 악성 VM에 의한 메모리 DoS 공격에 대비한 새로운 방어 기법을 제안한다. 이 방어 기법은 런타임 동안 하드웨어 성능 카운터의 통계적 분석과 도핑 사이클 조절을 활용하여 공격을 탐지하고 완화하며, 전체 성능 오버헤드가 5% 미만이 되도록 한다. 이는 Hadoop 및 전자상거래 애플리케이션과 같은 실제 워크로드를 최대 38배의 응답 시간 증가로부터 효과적으로 보호한다.

ABSTRACT

In cloud computing, network Denial of Service (DoS) attacks are well studied and defenses have been implemented, but severe DoS attacks on a victim's working memory by a single hostile VM are not well understood. Memory DoS attacks are Denial of Service (or Degradation of Service) attacks caused by contention for hardware memory resources on a cloud server. Despite the strong memory isolation techniques for virtual machines (VMs) enforced by the software virtualization layer in cloud servers, the underlying hardware memory layers are still shared by the VMs and can be exploited by a clever attacker in a hostile VM co-located on the same server as the victim VM, denying the victim the working memory he needs. We first show quantitatively the severity of contention on different memory resources. We then show that a malicious cloud customer can mount low-cost attacks to cause severe performance degradation for a Hadoop distributed application, and 38X delay in response time for an E-commerce website in the Amazon EC2 cloud. Then, we design an effective, new defense against these memory DoS attacks, using a statistical metric to detect their existence and execution throttling to mitigate the attack damage. We achieve this by a novel re-purposing of existing hardware performance counters and duty cycle modulation for security, rather than for improving performance or power consumption. We implement a full prototype on the OpenStack cloud system. Our evaluations show that this defense system can effectively defeat memory DoS attacks with negligible performance overhead.

연구 동기 및 목표

• Amazon EC2와 같은 실제 공용 클라우드 환경에서 동일 물리 호스트에 함께 위치한 악성 VM이 분산 애플리케이션의 성능을 악화시킬 수 있는 정도를 입증한다.
• 기존의 성능 격리 및 QoS 스케줄링 메커니즘이 비표준적인 자원 경쟁 패tern을 보이는 정교한 메모리 DoS 공격을 탐지하거나 완화하지 못하는 이유를 보여준다.
• 하드웨어, 하이퍼바이저, 게스트 OS를 수정하지 않고도 알려진 모든 유형의 메모리 DoS 공격을 탐지하고 완화할 수 있는 일반화 가능한 저오버헤드 방어 기법을 설계하고 구현한다.
• 기존 인fra구조와의 호환성을 확보하고 성능 오버헤드를 최소화하여 실제 공용 클라우드 환경에서의 구현 가능성을 확보한다.

제안 방법

• 공격 대상 VM의 '가상 고립' 상태 동안 도핑 사이클 조절을 활용해 함께 위치한 VM의 실행을 억제함으로써 청소된 기준 샘플을 확보하기 위해 기준 성능 행동을 수집한다.
• 하드웨어 성능 카운터(예: LLC 미스, 메모리 대역폭)를 사용하여 공격 대상 VM의 런타임 행동을 기준과 비교한다.
• 기준 샘플과 모니터링 샘플 간의 성능 확률 분포에서의 심각한 이탈을 통계적 가설 검정을 통해 탐지함으로써 잠재적 메모리 DoS 공격 여부를 판단한다.
• 탐지 후 기존 하드웨어 기능을 보안 목적을 위해 재사용하여 악성 VM의 실행을 선택적으로 억제함으로써 공격 영향을 완화한다.
• 기존 클라우드 인fra구조에 영향을 주지 않도록 CPU, 하이퍼바이저, 게스트 OS를 수정하지 않고 OpenStack에 전체 방어 프로토타입을 구현한다.
• 지속적인 성능 모니터링을 총 실행 시간의 5% 이내로 유지하여 저오버헤드를 확보하고, 생산 환경에 적합한 설계를 이행한다.

실험 결과

연구 질문

• RQ1 동일 물리 호스트에 함께 위치한 악성 VM이 메모리 자원 경쟁을 통해 공격 대상 VM의 성능 저하를 얼마나 심각하게 유도할 수 있는가?
• RQ2 자원 경쟁이 심각한 상황에서도 기존의 성능 격리 및 QoS 스케줄링 메커니즘이 왜 메모리 DoS 공격을 탐지하거나 완화하지 못하는가?
• RQ3 런타임 동안 하드웨어 성능 카운터의 통계적 분석을 활용해 다양한 공격 유형에 걸쳐 메모리 DoS 공격을 탐지할 수 있는 일반적인 탐지 기법을 설계할 수 있는가?
• RQ4 완전히 정지시키지 않고도 도핑 사이클 조절이 성능 행동의 신뢰할 수 있는 기준을 만드는 데 얼마나 효과적인가?
• RQ5 제안된 방어 기법이 실제 클라우드 워크로드에서 최소한의 성능 오버헤드로 메모리 DoS 공격을 효과적으로 완화할 수 있는가?

주요 결과

• 동일 물리 호스트에 함께 위치한 악성 VM 하나가 Amazon EC2에서 20노드 분산 애플리케이션의 전체 성능을 최대 3.7배로 저하시켰다.
• 전자상거래 워크로드의 경우 공격로 인해 응답 시간이 최대 38배 증가했고, 서버 스루풋은 정상 상태의 13%로 감소했다.
• 지속적인 모니터링에 대해 전체 성능 오버헤드가 5% 미만이었으며, 이는 생산 환경에 적용 가능한 수준이었다.
• 성능 카운터의 이탈을 기반으로 한 통계적 탐지 기법은 기존 지표(예: LLC 미스 비율)가 그대로 유지되더라도 메모리 DoS 공격을 높은 신뢰도로 탐지했다.
• 원자 락킹 및 적응형 LLC 정리 공격과 같은 기존 성능 기반 탐지 기법을 우회하는 알려진 모든 메모리 DoS 공격 유형을 효과적으로 완화했다.
• OpenStack과 같은 기존 클라우드 스택과 호환되며, CPU, 하이퍼바이저, 게스트 운영체제에 대한 수정이 전혀 필요하지 않다.