[논문 리뷰] ALEA: Fine-grain Energy Profiling with Basic Block Sampling

Lev Mukhanov, Dimitrios S. Nikolopoulos외 1명|arXiv (Cornell University)|2015. 04. 03.

Green IT and Sustainability참고 문헌 26인용 수 8

한 줄 요약

ALEA는 사용자 공간에서 작동하며 이식 가능하고, 저주파수 전력 측정의 비확률적 샘플링을 사용하여 기본 블록 수준에서 세밀한 에너지 회계를 가능하게 하는 에너지 프로파일링 도구이다. 이는 평균 오차율 1.4–3.5%를 달성하면서 실행 오버헤드가 1% 미만이므로, 인텔과 ARM 아키텍처 전반에서 마이크로아키텍처 수준의 정확하고 저오버헤드 에너지 최적화를 가능하게 한다.

ABSTRACT

Energy efficiency is an essential requirement for all contemporary computing systems. We thus need tools to measure the energy consumption of computing systems and to understand how workloads affect it. Significant recent research effort has targeted direct power measurements on production computing systems using on-board sensors or external instruments. These direct methods have in turn guided studies of software techniques to reduce energy consumption via workload allocation and scaling. Unfortunately, direct energy measurements are hampered by the low power sampling frequency of power sensors. The coarse granularity of power sensing limits our understanding of how power is allocated in systems and our ability to optimize energy efficiency via workload allocation. We present ALEA, a tool to measure power and energy consumption at the granularity of basic blocks, using a probabilistic approach. ALEA provides fine-grained energy profiling via statistical sampling, which overcomes the limitations of power sensing instruments. Compared to state-of-the-art energy measurement tools, ALEA provides finer granularity without sacrificing accuracy. ALEA achieves low overhead energy measurements with mean error rates between 1.4% and 3.5% in 14 sequential and parallel benchmarks tested on both Intel and ARM platforms. The sampling method caps execution time overhead at approximately 1%. ALEA is thus suitable for online energy monitoring and optimization. Finally, ALEA is a user-space tool with a portable, machine-independent sampling method. We demonstrate two use cases of ALEA, where we reduce the energy consumption of a k-means computational kernel by 37% and an ocean modelling code by 33%, compared to high-performance execution baselines, by varying the power optimization strategy between basic blocks.

연구 동기 및 목표

• 기존 에너지 측정 도구에서 기인하는 거친 전력 측정 주파수의 근본적 한계를 해결함으로써, 기본 블록과 같은 짧은 수명을 가진 코드 영역에 대한 정확한 에너지 회계를 가능하게 하기 위해.
• 직접 전력 측정 도구에서 측정 정확도와 샘플링 해상도 사이의 상충 관계를 극복하기 위해 비확률적 샘플링 모델을 도입함으로써.
• 커널 수준의 액세스나 플랫폼 전용 校정이 필요 없이도 다양한 아키텍처 간 이식 가능하고 실용적인 사용자 공간에서의 저오버헤드 에너지 프로파일링을 가능하게 하기 위해.
• 각 기본 블록별 에너지 회계를 제공함으로써 에너지 인식 최적화 전략을 유도하고 타겟팅된 전력 제한 및 최적화 전략을 지원하기 위해.
• 실제 고성능 계산 및 과학 워크로드에서의 실용적 사례를 통해 세밀한 에너지 최적화의 가능성과 영향을 입증하기 위해.

제안 방법

• 센서의 기본 샘플링 주파수(예: 1–5 kHz)에서 물리적 전력 측정을 체계적으로 샘플링하여 시간에 따른 에너지 소비를 캡처하기 위해.
• 실행 빈도와 지속 시간을 기반으로 총 측정 에너지를 개별 기본 블록에 분배하기 위해 비확률적 모델을 사용함. 이는 블록이 센서의 샘플링 주기 이하로 실행되어도 가능하다.
• 하드웨어에 종속적인 세부 정보를 추상화하는 기계 독립적 샘플링 메커니즘을 구현하여 x86 및 ARM 아키텍처 간 이식 가능성을 확보함.
• 최소한의 인스트루멘테이션을 사용하여 사용자 공간에 샘플링 메커니즘을 통합함으로써 낮은 런타임 오버헤드(~1% 이내)를 확보하고 생산 워크로드와의 호환성을 보장함.
• 실행 컨텍스트 추적 기능을 활용하여 에너지 소비를 특정 코드 세그먼트와 연관지킴으로써 개별 기본 블록 수준의 프로파일링을 가능하게 함.
• 고해상도 전력 센서로부터의 기준값 에너지 측정과 기존 도구를 기준으로 비교하여 정확도와 오버헤드를 정량화하기 위해 모델을 검증함.

실험 결과

연구 질문

• RQ1 거친 전력 측정의 비확률적 샘플링이 수용 가능한 정확도와 저오버헤드로 기본 블록 수준에서 세밀한 에너지 회계를 달성할 수 있는가?
• RQ2 ALEA의 정확도는 다양한 아키텍처와 워크로드에서 최신 기술의 에너지 프로파일링 도구와 비교해 어떻게 되는가?
• RQ3 세밀한 에너지 프로파일링이 기본 블록 수준에서 타겟팅된 효과적인 전력 최적화 전략을 얼마나 잘 지원할 수 있는가?
• RQ4 메모리 액세스 패턴과 캐시 경쟁은 기본 블록별 에너지 소비에 어떤 영향을 미치며, ALEA는 이러한 상관관계를 탐지할 수 있는가?
• RQ5 ALEA는 실제 과학적 및 HPC 워크로드에서 실용적인 에너지 최적화를 유도할 수 있으며, 어떤 정도의 에너지 절감이 가능한가?

주요 결과

• ALEA는 인텔 샌디 브리지에서 기본 블록 수준의 거친 측정에 대해 평균 오차율 1.4%, ARM 엑시노스에서는 1.9%를 기록하였으며, 세밀한 블록 수준에서는 각각 1.6%와 3.5%의 오차율을 기록하였다.
• 모든 벤치마크에서 실행 시간 오버헤드가 1% 이하로 유지되어 온라인 에너지 모니터링 및 최적화에 적합하다.
• ALEA는 메모리 액세스 빈도와 전력 소비 사이에 강한 상관관계가 존재함을 성공적으로 식별하고 정량화하였다.
• 각 기본 블록별로 타겟팅된 최적화 전략을 적용함으로써, k-means 커널에서는 37%의 에너지 절감, 해양 모델링 코드에서는 33%, 레이 트레이싱 애플리케이션에서는 6%의 에너지 절감을 달성하였다.
• 연구 결과에 따르면 최적의 에너지 효율성은 기본 블록마다 다를 수 있으며, 일부는 약간 감소된 주파수에서, 일부는 코어 수를 줄였을 때, 일부는 수동 코드 최적화가 필요함을 확인하였다.
• 결과적으로 세밀한 전력 캡핑과 동시성 탄력 조절이 기존의 전압 및 주파수 스케일링만으로는 달성할 수 없는 더 나은 에너지 절감 효과를 낼 수 있음을 입증하였다.