[논문 리뷰] Precision-Aware application execution for Energy-optimization in HPC
 node system

Radim Vavřík, Antoni Portero외 6명|arXiv (Cornell University)|2015. 01. 01.

Distributed and Parallel Computing Systems인용 수 3

한 줄 요약

이 논문은 고성능 컴퓨팅(HPC) 시스템을 대상으로 정밀도 인식 런타임 자원 관리(RTRM) 프레임워크를 제안한다. 이 프레임워크는 응용 프로그램의 품질 서비스(QoS) 요구 사항에 따라 계산 자원을 동적으로 조정함으로써 에너지 소비를 최적화한다. 시스템 상태를 모니터링하고 정밀도, 실행 시간, 에너지 소비 간의 사전 계산된 최적의 트레이드오프를 활용함으로써, RTRM는 원본 실행 대비 10% 미만의 시간 오버헤드로 최대 65% 높은 정밀도를 달성하며, 제어된 정밀도 손실을 통해 에너지 절감을 실현함으로써 24시간 연속 운영을 가능하게 한다.

ABSTRACT

Power consumption is a critical consideration in high performance computing
 systems and it is becoming the limiting factor to build and operate Petascale
 and Exascale systems. When studying the power consumption of existing systems
 running HPC workloads, we find that power, energy and performance are closely
 related which leads to the possibility to optimize energy consumption without
 sacrificing (much or at all) the performance. In this paper, we propose a HPC
 system running with a GNU/Linux OS and a Real Time Resource Manager (RTRM) that
 is aware and monitors the healthy of the platform. On the system, an
 application for disaster management runs. The application can run with
 different QoS depending on the situation. We defined two main situations.
 Normal execution, when there is no risk of a disaster, even though we still
 have to run the system to look ahead in the near future if the situation
 changes suddenly. In the second scenario, the possibilities for a disaster are
 very high. Then the allocation of more resources for improving the precision
 and the human decision has to be taken into account. The paper shows that at
 design time, it is possible to describe different optimal points that are going
 to be used at runtime by the RTOS with the application. This environment helps
 to the system that must run 24/7 in saving energy with the trade-off of losing
 precision. The paper shows a model execution which can improve the precision of
 results by 65% in average by increasing the number of iterations from 1e3 to
 1e4. This also produces one order of magnitude longer execution time which
 leads to the need to use a multi-node solution. The optimal trade-off between
 precision vs. execution time is computed by the RTOS with the time overhead
 less than 10% against a native execution.

연구 동기 및 목표

• 페타스케일 및 엑사스케일 HPC 시스템에서 증가하는 에너지 비용 장벽을 해결하기 위해.
• 정밀도, 실행 시간, 에너지 소비 간의 런타임 트레이드오프를 활용하여 성능을 희생시키지 않고 에너지 최적화를 실현하기 위해.
• 시스템 상태를 모니터링하고 응용 프로그램의 QoS 요구 사항에 따라 자원 할당을 동적으로 조정하는 실시간 자원 관리자(RTRM)를 설계하기 위해.
• 위험 수준에 따라 제어된 정밀도 저하를 통해 에너지 절감을 실현함으로써 핵심 HPC 응용 프로그램의 24시간 연속 운영을 지원하기 위해.

제안 방법

• RTRM는 실시간으로 시스템 센서(전력, 온도, 부하)를 모니터링하여 플랫폼 상태와 자원 가용성을 평가한다.
• 설계 시점에 정밀도, 실행 시간, 에너지 소비를 균형 잡는 파레토 최적 구성(configuration)을 계산한다.
• RTRM는 동적 전력 모델 Pn = (Pmax − Pidle) × n/100 + Pidle를 사용하며, 여기서 n은 시스템 부하이다. 이 모델을 통해 전력 및 에너지 소비를 추정한다.
• 에너지 소비는 E = P × t로 계산되며, P는 동적 전력 모델을 통해 추정하고 t는 실행 시간이다.
• 프레임워크는 단일 노드(SMP) 및 다중 노드(HPC 클러스터) 실행을 모두 지원하여 확장 가능한 자원 할당을 통해 더 높은 정밀도를 달성한다.
• 정밀도 트레이드오프를 모델링하기 위해 반복 수를 조절할 수 있는 재해 관리 응용 프로그램을 사용하며, 결과는 SMP 및 클러스터 플랫폼에서 모두 검증된다.

실험 결과

연구 질문

• RQ1 실시간 자원 관리자가 성능 저하 없이 HPC 시스템에서 에너지 소비를 동적으로 최적화할 수 있는가?
• RQ2 재해 관리 시뮬레이션에 대해 정밀도, 실행 시간, 에너지 소비 간 최적의 트레이드오프는 무엇인가?
• RQ3 정밀도 인식 RTRM는 원본 실행 대비 얼마나 많은 시간 오버헤드를 유발하는가?
• RQ4 낮은 위험 상황에서 정밀도를 낮춤으로써 RTRM가 의미 있는 에너지 절감을 달성할 수 있는가, 동시에 수용 가능한 정확도를 유지하는가?
• RQ5 다중 노드 환경에서 시스템은 고정밀도 시뮬레이션을 지원하기 위해 어떻게 확장되는가?

주요 결과

• RTRM는 원본 실행 대비 10% 미만의 시간 오버헤드를 유발하여 성능에 미치는 영향이 최소화됨을 입증한다.
• 반복 수를 103에서 104로 증가시킴으로써 시뮬레이션 정밀도가 평균 65% 향상되어 정밀도 향상을 위한 고성능 계산의 효과를 입증한다.
• SMP 플랫폼에서의 에너지 소비 추정은 정밀도, 코어 수, 주파수 간 명확한 트레이드오프를 보이며, 파레토 최적 구성 선택을 가능하게 한다.
• HPC 클러스터에서는 노드 수가 증가함에 따라 전력 소비가 급격히 증가했으며(최대 16×16코어 노드), 실행 시간 향상가 없었으며, 이는 지능적인 자원 관리의 필요성을 강조한다.
• 프레임워크는 위험 조건에 따라 에너지 절약 모드(저정밀도)와 고정밀도 모드 간 동적으로 전환함으로써 핵심 HPC 응용 프로그램의 24시간 연속 운영을 가능하게 한다.
• 시스템은 설계 시점에 최적 구성(configuration)을 식별하고 이를 런타임에 RTRM가 적용함으로써 에너지 효율성과 응용 프로그램 QoS를 균형 잡는 데 성공했다.