[논문 리뷰] Techniques and tools for measuring energy efficiency of scientific software applications

David Abdurachmanov, P. Elmer외 8명|arXiv (Cornell University)|2014. 10. 10.

Parallel Computing and Optimization Techniques참고 문헌 15인용 수 10

한 줄 요약

이 논문은 과학적 HPC/HTC 워크로드에서 에너지 효율성을 측정하기 위한 종합적인 기술 및 도구 세트를 제시하며, 하드웨어 센서와 소프트웨어 프로파일링을 사용하여 ARMv7와 x86-64 아키텍처를 비교한다. RAPL을 통한 기능 수준의 에너지 프로파일링 기능을 갖춘 오픈소스 IgProf 프로파일러의 확장된 버전을 도입하여, 서버급 시스템에서 지원될 경우 ARMv7이 에너지 효율적인 과학 계산에 매우 높은 잠재력을 지닌다는 것을 입증한다.

ABSTRACT

The scale of scientific High Performance Computing (HPC) and High Throughput Computing (HTC) has increased significantly in recent years, and is becoming sensitive to total energy use and cost. Energy-efficiency has thus become an important concern in scientific fields such as High Energy Physics (HEP). There has been a growing interest in utilizing alternate architectures, such as low power ARM processors, to replace traditional Intel x86 architectures. Nevertheless, even though such solutions have been successfully used in mobile applications with low I/O and memory demands, it is unclear if they are suitable and more energy-efficient in the scientific computing environment. Furthermore, there is a lack of tools and experience to derive and compare power consumption between the architectures for various workloads, and eventually to support software optimizations for energy efficiency. To that end, we have performed several physical and software-based measurements of workloads from HEP applications running on ARM and Intel architectures, and compare their power consumption and performance. We leverage several profiling tools (both in hardware and software) to extract different characteristics of the power use. We report the results of these measurements and the experience gained in developing a set of measurement techniques and profiling tools to accurately assess the power consumption for scientific workloads.

연구 동기 및 목표

• 대규모 과학 계산에서 에너지 소비 증가에 대한 우려를 다루기 위해, 특히 고에너지물리학(HEP) 및 HPC/HTC 워크로드에서의 에너지 소비를 다룬다.
• 특히 ARMv7와 인텔 x86-64 아키텍처에서 다양한 하드웨어 아키텍처 간의 전력 소비를 정확하게 측정할 수 있는 기법을 개발하고 검증한다.
• x86 및 ARM 아키텍처 모두에서 기능 수준의 에너지 프로파일링 기능을 갖춘 IgProf 프로파일러를 확장하여 소프트웨어 수준의 에너지 효율 최적화를 가능하게 한다.
• 실제 HEP 워크로드(예: CMS)를 사용하여 ARMv7와 x86-64 프로세서의 에너지 효율성을 비교하고 아키텍처적 트레이드오프를 규명한다.
• 연구자들이 과학 응용 프로그램의 에너지 사용을 평가하고 최적화할 수 있도록 하드웨어 기반 및 소프트웨어 기반 측정 방법의 툴킷을 제공한다.

제안 방법

• CPU, 메모리, 시스템 구성 요소 수준에서 세밀한 에너지 소비 측정을 위해 내장된 전력 모니터링 칩(예: TI INA231)과 인텔의 RAPL 인터페이스를 사용한다.
• 노드 수준의 거시적 에너지 모니터링을 위해 외부 전력 미터(예: 클램프 미터, 플러그인 미터)를 활용하며, 정확도는 1퍼센트 이내, 시간 해상도는 1초 수준을 확보한다.
• PAPI를 사용해 RAPL 데이터를 읽는 통계적 샘플링 기반 에너지 프로파일링 모듈을 IgProf에 구현하여 기능 수준의 에너지 비용 추정 기능을 제공한다.
• 실제 시스템에서 CMS 워크로드를 실행하여 ARMv7와 x86-64 아키텍처 간의 에너지 소비와 성능을 비교하는 물리적 측정을 수행한다.
• 에너지 프로파일링 모듈의 정합성을 검증하기 위해 STREAM 벤치마크를 사용하여 Add, Copy, Triad, Scale 등의 기능 간 실행 시간과 에너지 소비 간 상관관계를 분석한다.
• 시작/정지 시간 기반 프로파일링과 샘플링 기법을 조합하여 최소한의 성능 오버헤드로 평균 전력 소비를 추정한다.

실험 결과

연구 질문

• RQ1 대표적인 HEP 워크로드를 실행할 때 ARMv7 프로세서의 에너지 소비는 x86-64 프로세서와 비교해 어떻게 되는가?
• RQ2 기존의 하드웨어 모니터링 인터페이스(예: RAPL, 내장 센서)가 과학 응용 프로그램에 대해 정확하고 세밀한 에너지 측정을 얼마나 잘 제공할 수 있는가?
• RQ3 IgProf과 같은 소프트웨어 프로파일링 도구는 ARM 아키텍처(64비트 ARM 포함)에서 기능 수준의 에너지 프로파일링을 효과적으로 확장할 수 있는가?
• RQ4 과학 벤치마크에서 실행 시간과 에너지 소비 간 상관관계는 어떠한가, 그리고 이는 최적화 전략 수립에 어떻게 기여할 수 있는가?
• RQ5 다양한 HPC/HTC 시스템 구성 요소에서 에너지 효율성을 평가할 때 발생하는 실질적 과제와 측정의 트레이드오프는 무엇인가?

주요 결과

• ARMv7 프로세서는 메모리 집약적인 워크로드에서 x86-64와 경쟁 가능한 에너지 효율성을 보였으며, 향후 에너지 최적화된 HTC 시스템에 활용될 잠재력을 지닌다.
• STREAM 벤치마크에서 프로세서 패키지와 파워 플레인 0(CPU 코어)의 에너지 소비는 실행 시간과 밀접하게 따라가며, 파워 플레인 1(GPU)는 거의 일정하게 유지되어 최소한의 에너지 소비를 의미한다.
• IgProf 에너지 프로파일링 모듈은 RAPL 데이터를 활용하여 기능 수준의 에너지 비용을 성공적으로 측정하였으며, 단일 스레드 벤치마크에서 실행 시간과 에너지 소비 간 강한 상관관계를 보였다.
• RAPL 및 내장 센서를 활용한 하드웨어 기반 모니터링은 밀리초 수준의 정밀도와 높은 정확도를 제공하여 세부적인 시스템 수준의 에너지 분석에 적합하다.
• IgProf에 에너지 프로파일링 기능을 통합함으로써 연구자들은 과학 코드에서 에너지 소비가 높은 기능을 식별하고, 에너지 효율 향상을 위한 타겟팅 최적화를 수행할 수 있다.
• 본 연구는 서버급 시스템이 ARMv7 아키텍처를 기반으로 설계되어 신뢰성과 성능을 확보할 경우, ARMv7가 과학 계산에 실질적인 대안이 될 수 있음을 확인한다.