[논문 리뷰] Hardware Counted Profile-Guided Optimization

Baptiste Wicht, R Vitillo외 2명|arXiv (Cornell University)|2014. 11. 24.

Parallel Computing and Optimization Techniques참고 문헌 3인용 수 3

한 줄 요약

이 논문은 하드웨어 성능 카운터—특히 마지막 브랜치 기록(LBR) 샘플링—과 디버그 심볼을 사용하여 소스 수준의 프로파일을 복원하는 샘플링 기반 프로파일 기반 최적화(PGO) 기법을 제안한다. 이 기법은 인스트루멘테이션 기반 PGO의 93% 성능 향상을 달성하면서도 평균 1.06%의 프로파일링 오버헤드를 기록하며, 이는 인스트루멘테이션 기반 기법의 16%에 비해 훨씬 낮다. 이에 따라 PGO는 실전 환경에서의 적용이 가능해졌다.

ABSTRACT

Profile-Guided Optimization (PGO) is an excellent means to improve the performance of a compiled program. Indeed, the execution path data it provides helps the compiler to generate better code and better cacheline packing. At the time of this writing, compilers only support instrumentation-based PGO. This proved effective for optimizing programs. However, few projects use it, due to its complicated dual-compilation model and its high overhead. Our solution of sampling Hardware Performance Counters overcome these drawbacks. In this paper, we propose a PGO solution for GCC by sampling Last Branch Record (LBR) events and using debug symbols to recreate source locations of binary instructions. By using LBR-Sampling, the generated profiles are very accurate. This solution achieved an average of 83% of the gains obtained with instrumentation-based PGO and 93% on C++ benchmarks only. The profiling overhead is only 1.06% on average whereas instrumentation incurs a 16% overhead on average.

연구 동기 및 목표

• 인스트루멘테이션 기반 PGO의 높은 오버헤드와 복잡한 이중 컴파일 모델을 해결하기 위해.
• 프로파일링 오버헤드를 줄여 실세계 프로젝트에서의 PGO 보급을 가능하게 하기 위해.
• 하드웨어 성능 카운터를 사용하여 프로파일 수집을 수행하는 GCC 호환 툴체인 개발을 위해.
• SPEC 2006 벤치마크에서 샘플링 기반 PGO의 정확도와 성능을 평가하기 위해.
• 재컴파일 없이 최적화된 바이너리에 대해서도 PGO 지원을 확장하기 위해.

제안 방법

• 실행 추적을 캡처하기 위해 성능 모니터링 유닛(PMU)에서 LBR 이벤트를 샘플링하기 위해.
• 샘플된 프로그램 카운터(PC) 값들을 소스 코드 위치로 다시 매핑하기 위해 디버그 심볼을 사용하기 위해.
• 최소 제어 흐름 알고리즘을 사용하여 LBR 샘플에서 기본 블록 및 간선 빈도를 재구성하기 위해.
• 기본 블록 크기를 고려하여 표본 수를 정규화하여 더 큰 블록에 대한 편향을 방지하기 위해.
• 프로파일 기반 최적화를 지원하는 AutoFDO(AFDO) 패치를 통해 샘플된 프로파일을 GCC에 통합하기 위해.
• 샘플을 수집하기 위해 perf 도구를 사용하고, 원시 샘플을 GCOV 호환 프로파일 파일로 변환하기 위해 gooda-to-afdo-converter 도구를 사용하기 위해.

실험 결과

연구 질문

• RQ1 하드웨어 성능 카운터 샘플링이 인스트루멘테이션 기반 PGO와 유사한 정확도를 달성할 수 있는가?
• RQ2 샘플링 기반 PGO가 실전 환경에서 사용 가능한 수준의 프로파일링 오버헤드를 줄일 수 있는가?
• RQ3 LBR 샘플링과 디버그 심볼의 사용이 프로파일 재구성 정확도에 어떤 영향을 미치는가?
• RQ4 제안된 방법이 특수 컴파일 모드 없이 기존 GCC 툴체인에 통합될 수 있는가?
• RQ5 샘플링 기반 PGO가 실세계 애플리케이션 성능에 어떤 영향을 미치는가, 특히 C++ 워크로드에서의 영향은?

주요 결과

• 제안된 하드웨어 샘플링 PGO는 SPEC 2006 벤치마크 전반에서 인스트루멘테이션 기반 PGO의 평균 83% 성능 향상을 달성하였다.
• C++ 벤치마크에 대해서만 볼 때, 이 기법은 인스트루멘테이션 기반 PGO의 93% 성능 향상을 달성하였다.
• 프로파일링 오버헤드는 평균 1.06%에 그쳤으며, 이는 인스트루멘테이션 기반 PGO의 16%에 비해 훨씬 낮았다.
• 이 방법은 최적화된 바이너리 지원이 가능하며, 인스트루멘테이션 기반 PGO에서 요구하는 이중 컴파일 모델을 피할 수 있었다.
• 툴체인은 실전 사용에 적합하며, AutoFDO 패치를 통해 GCC에 통합되었다.
• 이 접근법은 로드 지연 및 분기 잘못 예측과 같은 저수준 하드웨어 이벤트를 활용한 향후 최적화 기회 탐색을 가능하게 하였다.