[논문 리뷰] Energy of Computing on Multicore CPUs: Predictive Models and Energy Conservation Law

Arsalan Shahid, Muhammad Fahad외 2명|arXiv (Cornell University)|2019. 07. 05.

Parallel Computing and Optimization Techniques참고 문헌 30인용 수 5

한 줄 요약

이 논문은 에너지 보존 원리를 기반으로 한 계산의 에너지 이론을 제안하며, 성능 모니터링 카운터(PMC)의 가산성(additivity)이 정확한 에너지 예측에 핵심적임을 규명하는 형식적 모델 이론적 프레임워크를 도입한다. 에너지 보존 제약 조건—예를 들어 선형 회귀에서의 영점절편 및 양수 계수—을 적용함으로써 예측 정확도가 31%에서 18%로 향상되었으며, 비가산성 PMC를 사용할 경우 에너지 최적화 손실이 최대 67%에 이를 수 있다.

ABSTRACT

Energy is now a first-class design constraint along with performance in all computing settings. Energy predictive modelling based on performance monitoring counts (PMCs) is the leading method used for prediction of energy consumption during an application execution. We use a model-theoretic approach to formulate the assumed properties of existing models in a mathematical form. We extend the formalism by adding properties, heretofore unconsidered, that account for a limited form of energy conservation law. The extended formalism defines our theory of energy of computing. By applying the basic practical implications of the theory, we improve the prediction accuracy of state-of-the-art energy models from 31% to 18%. We also demonstrate that use of state-of-the-art measurement tools for energy optimisation may lead to significant losses of energy (ranging from 56% to 65% for applications used in experiments) since they do not take into account the energy conservation properties.

연구 동기 및 목표

• 기존의 PMC 기반 에너지 예측 모델들이 내포한 가정을 모델 이론적 접근을 통해 형식화한다.
• 에너지 보존 원리 중 특히 PMC의 가산성과 같은 고려되지 않은 성질을 에너지 모델링에 통합한다.
• 에너지 보존 원리와 물리적 일관성을 확보함으로써 최신 에너지 모델의 예측 정확도를 향상시킨다.
• 현재 도구들인 인텔 RAPL이 에너지 보존 원리를 忽시함으로써 심각한 에너지 손실(56–65%)을 초래할 수 있음을 입증한다.
• 에너지 모델링을 위한 PMC 선택을 지도하기 위해 가산성과 물리적으로 의미 있는 PMC를 우선시한다.

제안 방법

• 기존 에너지 모델을 모델 이론적 프레임워크를 사용해 수학적으로 표현된 가정을 형식화한다.
• 보편적인 에너지 보존 법칙에 기반한 새로운 형식적 성질을 도입하며, 특히 PMC의 가산성을 중심으로 한다.
• 영점절편과 선형 회귀 모델에서의 양수 계수를 포함한 제약 조건을 갖는 계산의 에너지 이론을 정의한다.
• 복합 응용 프로그램을 대상으로 5% 허용 오차 기준의 가산성 테스트를 수행하여 PMC를 평가한다.
• 에너지 보존 제약 조건을 적용한 다양한 PMC 조합을 사용해 일곱 개의 선형 회귀 모델을 구축한다.
• 인텔 다코어 CPU에서 엄격한 실험 방법론을 적용하여 HCLWattsUp의 시스템 수준 물리적 측정값과 모델 정확도를 비교한다.

실험 결과

연구 질문

• RQ1 에너지 보존 원리, 특히 PMC의 가산성이 에너지 예측 모델의 정확도에 어떤 영향을 미치는가?
• RQ2 비가산성 PMC는 에너지 모델의 예측 정확도를 어느 정도 악화시키는가?
• RQ3 에너지 보존 제약 조건(영점절편, 양수 계수)을 적용함으로써 모델 정확도가 향상되는가?
• RQ4 에너지 보존 원리를 忽시하는 정확도가 떨어지는 측정 도구(예: 인텔 RAPL)의 사용이 에너지 최적화 결과에 어떤 영향을 미치는가?
• RQ5 코어 수가 PMC의 가산성과 에너지 모델 신뢰성에 어떤 영향을 미치는가?

주요 결과

• 에너지 보존 제약 조건을 적용함으로써 최신 에너지 모델의 예측 정확도가 31%에서 18%로 향상되었다.
• 시험한 여섯 개의 PMC 모두 5% 허용 오차 기준에서 가산성 테스트에 실패하였으며, 일부는 비가산성 오차가 최대 3075%에 이르렀다.
• 가장 가산성 있는 두 개의 PMC만을 사용한 ModelE가 평균 예측 정확도에서 가장 높은 성능을 보였으며, 비가산성 PMC가 많은 다른 모델들을 압도했다.
• 가장 가산성 있는 PMC 하나만을 사용한 ModelF는 선형 피팅이 열악하여 성능이 열악했으며, 이는 상관관계만을 기반으로 하여 물리적 일관성을 忽시할 경우의 위험성을 보여준다.
• 인텔 RAPL의 예측 정확도는 기준 모델(ModelA)과 동일했지만, 최적화에 사용할 경우 에너지 손실이 최대 67%에 이를 수 있었다.
• 에너지 보존 원리를 따르지 않는 도구들(예: RAPL)을 사용한 에너지 최적화는 에너지 손실을 야기할 수 있으며, 이는 에너지 보존 원칙을 따르지 못하기 때문이다.