[논문 리뷰] LIKWID: A lightweight performance-oriented tool suite for x86 multicore environments

Jan Treibig, Georg Hager외 1명|arXiv (Cornell University)|2010. 04. 26.

Parallel Computing and Optimization Techniques참고 문헌 6인용 수 28

한 줄 요약

LIKWID는 x86 다중코어 시스템에서 성능 최적화를 위한 경량이고 오픈소스의 명령줄 도구 세트로, 하드웨어 토폴로지 탐지, 스레드-코어 연계 제어, 하드웨어 성능 카운터 측정, 하드웨어 프리패치어 관리 기능을 제공한다. 커널 패치나 복잡한 설정 없이도 고성능 계산(HPC) 응용 프로그램의 효율적 성능 분석 및 최적화를 가능하게 하며, 스텐실 및 STREAM 벤치마크를 통해 메모리 액세스 패턴 향상과 성능 햖스를 입증하였다.

ABSTRACT

Exploiting the performance of today's processors requires intimate knowledge of the microarchitecture as well as an awareness of the ever-growing complexity in thread and cache topology. LIKWID is a set of command-line utilities that addresses four key problems: Probing the thread and cache topology of a shared-memory node, enforcing thread-core affinity on a program, measuring performance counter metrics, and toggling hardware prefetchers. An API for using the performance counting features from user code is also included. We clearly state the differences to the widely used PAPI interface. To demonstrate the capabilities of the tool set we show the influence of thread pinning on performance using the well-known OpenMP STREAM triad benchmark, and use the affinity and hardware counter tools to study the performance of a stencil code specifically optimized to utilize shared caches on multicore chips.

연구 동기 및 목표

• 스레드 및 캐시 토폴로지가 응용 프로그램 성능에 미치는 영향이 크기 때문에 현대의 복잡한 다중코어 x86 아키텍처의 복잡성을 해결한다.
• Intel VTune나 PAPI와 같은 복잡한 성능 도구에 비해 과학적 사용자들이 저수준 하드웨어 세부 정보를 잘 몰라도 사용할 수 있는 단순하고 접근 가능한 대안을 제공한다.
• 커널 수정 없이도 정확한 성능 측정과 최적화를 가능하게 한다.
• 공유 메모리 환경에서 스레드-코어 연계, 하드웨어 카운터 모니터링, 프리패처 제어를 통해 자원의 효율적 이용을 지원한다.
• 다양한 x86 다중코어 및 멀티소켓 시스템, 특히 하이브리드 MPI+OpenMP 코드에서 성능 이식성과 최적화를 촉진한다.

제안 방법

• 커널 모듈 없이도 MSRCER 및 모델 전용 레지스터(MSR)를 통한 직접적인 하드웨어 성능 카운터 접근을 통해 저오버헤드 메트릭스를 수집한다.
• 모듈식 명령줄 도구 세트를 사용한다: likwid-topology는 하드웨어 토폴로지 탐지를 담당하고, likwid-pin은 스레드-코어 연계 바인딩을 제공하며, likwid-perfCtr는 성능 카운터 측정을, likwid-features는 하드웨어 프리패처 제어를 담당한다.
• 카운터 멀티플렉싱을 지원하여 가용한 하드웨어 카운터 수를 초과하는 이벤트 측정이 가능해 종합적인 성능 분석이 가능하다.
• POSIX 스레드 및 MPI+스레드 모델과 통합되어 외부에서 스레드 고정을 가능하게 하며, 소스 코드 변경 없이도 구현할 수 있다.
• 일반적인 성능 메트릭스(예: 메모리 대역폭, FLOP 수)를 위한 사전 정의된 이벤트 세트를 제공하여 전문가가 아닌 사용자도 쉽게 사용할 수 있도록 한다.
• 사용자 응용 프로그램 내 임의의 코드 지점에서 성능 카운터 측정이 가능한 경량 API를 제공한다.

실험 결과

연구 질문

• RQ1 복잡한 x86 다중코어 아키텍처를 대상으로 하는 과학적 사용자들이 깊은 하드웨어 전문 지식 없이 성능 최적화를 어떻게 단순화할 수 있는가?
• RQ2 공유 메모리 응용 프로그램인 STREAM 트라이드 및 스텐실 코드에서 스레드-코어 연계가 성능에 미치는 영향은 어느 정도인가?
• RQ3 무거운 대안 대비 경량 사용자 모드 도구를 통한 하드웨어 성능 카운터 측정은 얼마나 효과적인가?
• RQ4 Nehalem EP 프로세서에서 7점 스텐실 자바니 해법에 비타민 저장소(non-temporal stores)와 시간 블로킹(temporal blocking)을 사용했을 때의 성능 영향은 무엇인가?
• RQ5 통합적이고 최소한의 도구 세트가 캐시 계층 및 메모리 대역폭과 같은 주요 성능 저하 요인을 효과적으로 해결할 수 있는가?

주요 결과

• likwid-pin을 사용한 스레드 고정은 코어 간 캐시 및 메모리 경쟁을 줄여 STREAM 트라이드 벤치마크에서 성능을 크게 향상시켰다.
• 7점 스텐실 자바니 커널에서 비타민 저장소를 사용함으로써 데이터 이동량이 약 1/3 감소했으며, 총 메모리 트래픽은 75.39 GB에서 43.97 GB로 감소했다.
• 시간 블로킹을 추가로 적용하면 메모리 트래픽이 16.57 GB로 더 감소(기본 스레드 버전 대비 4.5배 감소), 효과적인 캐시 재사용이 가능함을 입증했다.
• 메모리 트래픽이 4.5배 감소했음에도 불구하고 성능은 784 MLUPS에서 1331 MLUPS로 향상되어 69% 향상되었으며, 이는 Nehalem EP에서 메모리 대역폭 포화가 성능 향상의 한계를 결정함을 시사한다.
• Nehalem EP에서 포화된 메모리 대역폭과 L3 대역폭 간 성능 차이는 작아, 비록 데이터 이동이 감소했지만 시간 블로킹의 이점은 제한적이다.
• 도구 세트는 커널 패치 없이도 정확하고 저오버헤드의 성능 측정과 토폴로지 인식 최적화를 가능하게 하여 x86 시스템에서 HPC 워크로드에 적합하다.