[논문 리뷰] Optimal bandwidth-aware VM allocation for Infrastructure-as-a-Service

Debojyoti Dutta, Michael Kapralov외 2명|arXiv (Cornell University)|2012. 02. 16.

Caching and Content Delivery참고 문헌 14인용 수 5

한 줄 요약

이 논문은 트리 기반 데이터센터 토폴로지 구조를 가진 인프라로서의 서비스(IaaS) 환경에서 최적의 대역폭 인식 가상 머신(VM) 할당을 위한 동적 프로그래밍 알고리즘을 제안한다. 일반적인 요청 그래프에 대해 O(3^k n) 시간 내에 최소 네트워크 혼잡도를 달성하고, 클리크 요청에 대해서는 O(nk^2) 시간을 기록하며, 엄격한 토폴로지 제약 조건 하에서도 문제의 NP-난이도를 증명한다.

ABSTRACT

Infrastructure-as-a-Service (IaaS) providers need to offer richer services to be competitive while optimizing their resource usage to keep costs down. Richer service offerings include new resource request models involving bandwidth guarantees between virtual machines (VMs). Thus we consider the following problem: given a VM request graph (where nodes are VMs and edges represent virtual network connectivity between the VMs) and a real data center topology, find an allocation of VMs to servers that satisfies the bandwidth guarantees for every virtual network edge---which maps to a path in the physical network---and minimizes congestion of the network. Previous work has shown that for arbitrary networks and requests, finding the optimal embedding satisfying bandwidth requests is $\mathcal{NP}$-hard. However, in most data center architectures, the routing protocols employed are based on a spanning tree of the physical network. In this paper, we prove that the problem remains $\mathcal{NP}$-hard even when the physical network topology is restricted to be a tree, and the request graph topology is also restricted. We also present a dynamic programming algorithm for computing the optimal embedding in a tree network which runs in time $O(3^kn)$, where $n$ is the number of nodes in the physical topology and $k$ is the size of the request graph, which is well suited for practical requests which have small $k$. Such requests form a large class of web-service and enterprise workloads. Also, if we restrict the requests topology to a clique (all VMs connected to a virtual switch with uniform bandwidth requirements), we show that the dynamic programming algorithm can be modified to output the minimum congestion embedding in time $O(k^2n)$.

연구 동기 및 목표

• VM 간 대역폭 보장을 충족시키면서 IaaS 환경에서 네트워크 혼잡도를 최소화하는 데 도전 과제를 해결한다.
• 가상 네트워크 간선이 물리적 경로에 대응되며 충분한 대역폭을 확보해야 하는 그래프 임bedding 문제로 VM 할당 문제를 수식화한다.
• 트리 구조의 물리적 및 요청 토폴로지 하에서 자원 활용도와 QoS 향상을 위해 최적의 VM 배치를 위한 효율적인 알고리즘을 개발한다.
• 문제가 심한 토폴로지 제약 조건 하에서도 여전히 NP-난이도임을 입증하기 위해 이론적 난이도 결과를 수립한다.
• 기업 애플리케이션 및 MapReduce와 같은 실용적 워크로드에 대해 확장 가능한 솔루션을 제공한다. 이 경우 요청 크기는 작지만 대역폭 보장이 핵심이다.

제안 방법

• 트리 구조의 데이터센터에서 네트워크 혼잡도를 최소화하는 최적의 VM-서버 매핑을 계산하기 위해 동적 프로그래밍을 사용한다.
• 요청 그래프(VM과 대역폭 요구 사항)를 물리적 트리 네트워크에 임베딩하는 문제로 모델링하며, 각 가상 간선이 물리적 경로에 매핑되어야 한다.
• 모든 가능한 VM 배치를 고려하는 상태공간 탐색을 설계하고, 물리적 링크의 누적 대역폭 사용 기반으로 혼잡도를 계산한다.
• 대칭성과 균일한 대역폭 요구 사항을 활용하여 시간 복잡도를 O(nk^2)로 감소시키는 수정된 알고리즘을 제안하여 클리크 기반 요청 토폴로지(예: 가상 클러스터)에 대응한다.
• 기존의 난이도 문제가 알려진 문제로의 축소를 통해, 물리적 네트워크와 요청 그래프가 모두 트리 및 경로로 제한된 경우에도 문제의 NP-난이도를 증명한다.
• 작은 인스턴스에 대해 가능한 모든 할당을 선형 스캔하여 알고리즘의 정확성을 검증하고, 대규모 환경에서는 브루트 포스 접근의 비현실성을 입증한다.

실험 결과

연구 질문

• RQ1 물리적 네트워크와 요청 그래프가 모두 트리 토폴로지로 제한된 경우에도 최적의 대역폭 인식 VM 할당 문제는 여전히 NP-난이도인가?
• RQ2 작은 크기의 VM 요청 그래프에 대해 트리 기반 데이터센터에서 최소 혼잡도 임베딩을 계산할 수 있는 효율적인 동적 프로그래밍 알고리즘을 설계할 수 있는가?
• RQ3 서버 수(n)와 요청 그래프 크기(k)에 비례하여 알고리즘이 어떻게 확장되는가?
• RQ4 완전히 연결된 클리크(예: MapReduce 워크로드용)와 같은 특정 요청 패턴에 대해 알고리즘을 추가로 최적화하여 더 낮은 시간 복잡도를 달성할 수 있는가?
• RQ5 정확한 플로우 모델링이 부족한 탓에 휴리스틱 접근 방식이 실제 환경에서 얼마나 실패하는가? 최적 솔루션과의 비교는 어떠한가?

주요 결과

• 물리적 네트워크와 요청 토폴로지가 모두 트리로 제한된 경우에도 대역폭 인식 VM 할당에서 네트워크 혼잡도를 최소화하는 문제는 여전히 NP-난이도이다.
• 제안된 동적 프로그래밍 알고리즘은 O(3^k n) 시간 내에 최적의 임베딩을 계산하며, 요청 크기가 작은 실용적 워크로드에 대해 가능하다.
• 클리크 기반 요청(예: 가상 클러스터)에 대해서는 알고리즘이 O(nk^2) 시간 내에 실행되며, MapReduce와 같은 워크로드에서 효율성이 크게 향상된다.
• 실증 평가 결과 서버 수(n)에 대해 선형 확장성을 보이며, 대규모 데이터센터에서의 알고리즘 효율성을 확인한다.
• 실제 데이터센터에서는 브루트 포스로 가능한 모든 VM 할당을 스캔하는 것은 비현실적이다. 예를 들어 n=125, k=4인 작은 인스턴스라도 수 시간 또는 수 일 이상 소요되며, 제안된 알고리즘은 몇 초 내에 실행된다.
• 알고리즘은 잔여 링크 용량의 변동에 대해 강건하며, 물리적 링크의 가용 대역폭 분포와 관계없이 최적의 결과를 제공한다.