[논문 리뷰] GARDENIA: A Domain-specific Benchmark Suite for Next-generation Accelerators

Xu Zhen, Xuhao Chen외 4명|arXiv (Cornell University)|2017. 08. 15.

Parallel Computing and Optimization Techniques인용 수 4

한 줄 요약

GARDENIA는 대규모 데이터 및 머신러닝 분야의 비정형 그래프 분석 워크로드를 대상으로 하는 차세대 가속기 전용 벤치마크 세트이다. 최신 GPU 및 MIC 최적화 기법을 통합하여 단순 구현 대비 최대 3.8배의 성능 향상을 입증하였으며, 구조화된 워크로드와는 상당한 마이크로아키텍처적 차이를 보이며 전용 가속기 설계의 필요성을 부각시킨다.

ABSTRACT

This paper presents the Graph Analytics Repository for Designing Next-generation Accelerators (GARDENIA), a benchmark suite for studying irregular algorithms on massively parallel accelerators. Existing generic benchmarks for accelerators have mainly focused on high performance computing (HPC) applications with limited control and data irregularity, while available graph analytics benchmarks do not apply state-of-the-art algorithms and/or optimization techniques. GARDENIA includes emerging irregular applications in big-data and machine learning domains which mimic massively multithreaded commercial programs running on modern large-scale datacenters. Our characterization shows that GARDENIA exhibits irregular microarchitectural behavior which is quite different from structured workloads and straightforward-implemented graph benchmarks.

연구 동기 및 목표

• 실제 데이터센터 환경에서 차세대 가속기를 평가하기 위한 현실적이고 비정형 벤치마크 워크로드의 부족을 해결한다.
• 구식 알고리즘을 사용하거나 고급 최적화가 부족한 기존의 일반적이고 그래프 전용 벤치마크의 한계를 극복한다.
• 일반 목적 및 도메인 전용 가속기 연구를 위한 대표성 있고 다양한, 최적화된 벤치마크 세트를 제공한다.
• 비정형 워크로드의 정확한 마이크로아키텍처 특성 분석을 가능하게 하여 에너지 효율적인 가속기 설계를 안내한다.
• 하드웨어, 알고리즘, 라이브러리, 컴파일러 설계자들에게 성능 비교 및 최적화를 위한 기준 구현을 지원한다.

제안 방법

• 대규모 데이터, 머신러닝, 희소 선형 대수 분야에서 유래한 8개의 대표 워크로드를 포함한 벤치마크 세트를 설계한다.
• 크기, 조밀도, 위상 구조를 기반으로 실제 워크로드를 반영하는 실세계 그래프 데이터셋을 선정한다.
• 대규모 병렬 가속기(GPU 및 MIC)를 위한 최신 최적화 기법을 사용하여 모든 워크로드를 구현한다.
• 최적화된 GARDENIA 구현체를 단순 CUDA 버전과 비교하여 최적화의 영향을 정량화한다.
• SIMT 활용도 및 IPC와 같은 메트릭을 사용해 다양한 워크로드와 데이터셋에서의 마이크로아키텍처 행동을 특성화한다.
• GPU 및 MIC 플랫폼에서의 성능을 평가하여 가속기 커버리지와 플랫폼 특화 행동을 분석한다.

실험 결과

연구 질문

• RQ1 최신 최적화 기법은 가속기에서 그래프 분석 워크로드의 마이크로아키텍처 행동과 성능에 어떤 영향을 미치는가?
• RQ2 입력 그래프 특성(크기, 조밀도, 위상 구조)은 비정형 워크로드에서 성능과 마이크로아키텍처 행동에 어느 정도의 영향을 미치는가?
• RQ3 GPU와 MIC 가속기 간의 비정형 워크로드 성능 및 마이크로아키텍처 특성은 어떻게 다를까?
• RQ4 기존의 벤치마크 세트는 왜 실세계 비정형 응용 프로그램을 대상으로 하는 차세대 가속기 평가에 부적합한가?
• RQ5 향후 가속기가 해결해야 할 비정형 워크로드의 주요 성능 저하 요인은 무엇인가?

주요 결과

• GARDENIA 워크로드에 최신 최적화 기법을 적용하면 단순 CUDA 구현 대비 최대 3.8배의 성능 향상을 기록한다.
• 최적화에 따라 SIMT 활용도와 IPC가 크게 증가하여 마이크로아키텍처 행동에 상당한 변화가 있음을 시사한다.
• 다양한 데이터셋 간 성능 격차가 뚜렷하다: 예를 들어 BFS, SSSP, BC는 일부 그래프에서 IPC가 0.1 이하에 머무르지만, CC, PR, TC, SpMV는 1.5 IPC를 초과한다.
• CPU 단일 스레드 구현 대비 속도 향상 수치는 극명하게 다름—BFS, SSSP, BC는 특정 데이터셋에서 1.0 이하의 속도 향상을 보이며, 낮은 효율성의 단순 구현을 시사한다.
• MIC와 GPU는 다른 성능 추세를 보인다: MIC는 soc-twitter에서 BFS에 대해 최대 16.0×의 속도 향상을 기록하지만, road_central에서는 단지 1.2×에 머무르며 플랫폼 특화 민감도를 보여준다.
• GARDENIA 벤치마크의 마이크로아키텍처 행동은 구조화된 워크로드나 단순 그래프 벤치마크와 근본적으로 다르며, 전용 최적화 벤치마크 세트의 필요성을 정당화한다.