[논문 리뷰] Seeing Shapes in Clouds: On the Performance-Cost trade-off for Heterogeneous Infrastructure-as-a-Service

Gordon Inggs, David B. Thomas외 2명|arXiv (Cornell University)|2015. 06. 22.

Distributed systems and fault tolerance참고 문헌 5인용 수 3

한 줄 요약

이 논문은 성능과 비용을 균형 잡는 데 목적이 있는 형식적 혼합정수선형계획법(MILP) 접근법을 제안한다. 이는 CPU, GPU, FPGA로 구성된 이질적 인프라로서의 서비스(IaaS) 플랫폼에 걸쳐 작업 워크로드를 최적화하는 데 중점을 두며, 실세계의 옵션 가격 설정 워크로드에서 히وري스틱 방법 대비 지연 시간을 최대 110% 감소시키고 비용을 50% 이상 절감한다.

ABSTRACT

In the near future FPGAs will be available by the hour, however this new Infrastructure as a Service (IaaS) usage mode presents both an opportunity and a challenge: The opportunity is that programmers can potentially trade resources for performance on a much larger scale, for much shorter periods of time than before. The challenge is in finding and traversing the trade-off for heterogeneous IaaS that guarantees increased resources result in the greatest possible increased performance. Such a trade-off is Pareto optimal. The Pareto optimal trade-off for clusters of heterogeneous resources can be found by solving multiple, multi-objective optimisation problems, resulting in an optimal allocation of tasks to the available platforms. Solving these optimisation programs can be done using simple heuristic approaches or formal Mixed Integer Linear Programming (MILP) techniques. When pricing 128 financial options using a Monte Carlo algorithm upon a heterogeneous cluster of Multicore CPU, GPU and FPGA platforms, the MILP approach produces a trade-off that is up to 110% faster than a heuristic approach, and over 50% cheaper. These results suggest that high quality performance-resource trade-offs of heterogeneous IaaS are best realised through a formal optimisation approach.

연구 동기 및 목표

• 이질적 IaaS 플랫폼(CPU, GPU, FPGA)에 걸쳐 계산 워크로드를 효율적으로 분할하여 성능과 비용을 균형 잡는 도전 과제를 해결하기 위해.
• 이질적 인프라 환경에서 성능-비용 트레이드오프를 다중목표 최적화 문제로 형식화하기 위해.
• 형식적 최적화(MILP)가 히وري스틱 접근법보다 효율적이고 파레토 최적의 작업 할당을 생성하는지 평가하기 위해.
• 실세계 HPC 워크로드, 예를 들어 금융 옵션 가격 설정에서 형식적 최적화의 실용적 이점을 입증하기 위해.
• 지능적으로 분할된 경우 이질적 IaaS 플랫폼이 높은 성능 및 비용 효율성을 제공할 수 있음을 검증하기 위해.

제안 방법

• 하드웨어 메트릭과 사용률 기반 예측 런타임 모델을 사용하여 각 IaaS 플랫폼(CPU, GPU, FPGA)의 성능 및 비용 특성을 모델링한다.
• 총 비용과 지연 시간을 최소화하는 목표를 가진 혼합정수선형계획법(MILP) 문제로 작업 분할 문제를 수립한다.
• 플랫폼 간 작업 할당을 위한 결정 변수를 정의하며, 고정 설정 시간과 변동 시간 퀀텀 비용과 같은 비선형 효과를 포함한다.
• 비선형성이나 시간 퀀텀 효과를 고려하지 않고 절대 지연 시간과 비용을 기반으로 플랫폼 우선순위를 정하는 히وري스틱 방법을 구현한다.
• AWS, GCE, Azure의 16개의 이질적 IaaS 플랫폼에서 구성된 128개의 몬테카를로 옵션 가격 설정 작업을 대상으로 벤치마크 워크로드를 사용한다.
• 모델 예측을 실제 실행 측정치와 비교하여 최적화 접근법의 정확성과 실용성을 평가한다.

실험 결과

연구 질문

• RQ1 형식적 다중목표 최적화 접근법이 이질적 IaaS 환경에서 히وري스틱 방법보다 더 효율적인 성능-비용 트레이드오프를 생성할 수 있는가?
• RQ2 고정 설정 시간과 시간 퀀텀 비용과 같은 비선형 요소가 작업 분할에서 히وري스틱과 형식적 최적화의 효과성에 어떤 영향을 미치는가?
• RQ3 이질적 IaaS 플랫폼(CPU, GPU, FPGA)이 동일한 플랫폼 유형에 비해 성능 및 비용 효율성 측면에서 어느 정도 뛰어나게 성능을 발휘할 수 있는가?
• RQ4 다양한 IaaS 플랫폼 간 작업 할당의 지연 시간과 비용을 추정하는 데 있어 예측 모델의 정확도는 어느 정도인가?
• RQ5 실세계 HPC 워크로드에서 플랫폼의 이질성이 성능과 비용 간 파레토 최적 트레이드오프에 어떤 영향을 미치는가?

주요 결과

• MILP 기반 최적화 접근법은 최적의 경우 히وري스틱 방법 대비 지연 시간을 110% 감소시켰다.
• 동일한 성능 제약 조건 하에서 MILP 접근법은 히وري스틱 방법 대비 총 비용을 50% 이상 절감했다.
• 히وري스틱 방법은 시간 퀀텀 효과를 모델링하지 못해 CPU 플랫폼을 효과적으로 활용하지 못했지만, MILP 접근법은 이를 활용하여 비용과 성능 향상을 달성했다.
• 양측 접근법의 모델 예측 결과는 실제 측정치와 10% 이내로 일치하여 실용적 활용에 있어 높은 예측 정확도를 보였다.
• MILP가 생성한 파레토 최적 트레이드오프는 중앙값과 상한 비용 범위 모두에서 히وري스틱 방법을 뛰어넘어 일관된 우수성을 입증했다.
• 이질적 IaaS 플랫폼은 단일 플랫폼 유형보다 집합적으로 훨씬 뛰어난 성능과 비용 효율성을 제공했다.