[논문 리뷰] Towards Efficient OpenMP Strategies for Non-Uniform Architectures

Oussama Tahan|arXiv (Cornell University)|2014. 11. 26.

Parallel Computing and Optimization Techniques참고 문헌 8인용 수 3

한 줄 요약

이 논문은 현대 다중 소켓 시스템에서 비균일 메모리 접근(Non-Uniform Memory Access, NUMA)에 의한 지연을 줄이기 위해, NANOS 런타임 내에서 지능적인 스레드 할당과 고급 작업 스케줄링을 통합한 NUMA 인지형 OpenMP 전략을 제안한다. BOTS 벤치마크에서 평가한 결과, 특히 데이터 집약적 응용 프로그램에서 성능 향상이 뚜렷하게 나타났다.

ABSTRACT

Parallel processing is considered as todays and future trend for improving performance of computers. Computing devices ranging from small embedded systems to big clusters of computers rely on parallelizing applications to reduce execution time. Many of current computing systems rely on Non-Uniform Memory Access (NUMA) based processors architectures. In these architectures, analyzing and considering the non-uniformity is of high importance for improving scalability of systems. In this paper, we analyze and develop a NUMA based approach for the OpenMP parallel programming model. Our technique applies a smart threads allocation method and an advanced tasks scheduling strategy for reducing remote memory accesses and consequently their extra time consumption. We implemented our approach within the NANOS runtime system. A set of tests was conducted using the BOTS benchmarks and results showed the capacity of our technique in improving the performance of OpenMP applications especially those dealing with a large amount of data.

연구 동기 및 목표

• 비균일 메모리 접근(Non-Uniform Memory Access, NUMA) 아키텍처에서 실행되는 OpenMP 응용 프로그램의 성능 저하 요인을 해결하기 위해.
• 다중 소켓 시스템에서 원격 메모리 액세스로 인한 지연을 줄이고 확장성을 향상시키기 위해.
• NUMA 토폴로지에 기반하여 스레드와 작업 스케줄링을 지능적으로 매핑하는 런타임 전략을 개발하기 위해.
• 실세계의 데이터 집약적 워크로드에서 제안된 전략의 효과성을 평가하기 위해.
• 노드 간 메모리 액세스 지연이 크게 변동하는 환경에서 OpenMP 성능을 향상시키기 위해.

제안 방법

• 지역 메모리에 가까운 코어에 기반해 OpenMP 스레드를 할당하는 지능적인 스레드 할당 메커니즘을 통합한다.
• 필요한 데이터가 있는 노드에 작업을 배치함으로써 데이터 국지성을 우선시하는 고급 작업 스케줄링 전략을 적용한다.
• 스레드 및 작업 배치를 런타임에 관리하는 NANOS 런타임 시스템 내에 기술을 구현한다.
• 메모리 액세스 패턴을 동적으로 모니터링하고, 원격 메모리 참조를 최소화하기 위해 스레드 및 작업 분포를 조정한다.
• 스레드 배치 및 작업 스케줄링 결정을 도와주는 NUMA 토폴로지 인식 기능을 활용한다.
• 메모리 집약적인 병렬 응용 프로그램을 포함한 BOTS 벤치마크 세트를 사용해 방법을 평가한다.

실험 결과

연구 질문

• RQ1 어떻게 하면 NUMA 아키텍처에서 실행되는 OpenMP 응용 프로그램을 원격 메모리 액세스 오버헤드를 줄이도록 최적화할 수 있는가?
• RQ2 다중 소켓 시스템에서 비균일 메모리 접근이 존재할 경우, 어떤 스레드 할당 전략이 지연을 최소화하는가?
• RQ3 어떤 식으로 지능적인 작업 스케줄링이 데이터 집약적 OpenMP 워크로드의 성능을 향상시키는가?
• RQ4 NANOS와 같은 런타임 시스템은 NUMA 플랫폼에서 얼마나 높은 확장성을 향상시킬 수 있는가?
• RQ5 OpenMP에서 토폴로지 인식 기반 스레드 및 작업 관리로는 어떤 정도의 성능 향상이 달성 가능한가?

주요 결과

• 제안된 NUMA 인지 전략은 데이터와 가까이 있는 곳에 스레드와 작업을 지능적으로 배치함으로써 원격 메모리 액세스를 크게 줄였다.
• BOTS 벤치마크 세트를 통해 데이터 집약적 응용 프로그램에서 성능 향상이 특히 두드러졌다.
• 다중 소켓 시스템에서 노드 간 메모리 액세스 지연을 최소화함으로써 측정 가능한 스피드업을 달성했다.
• NANOS 런타임은 NUMA 노드 간 데이터 국지성을 유지하면서도 동적 로드 밸런싱을 성공적으로 관리했다.
• 결과적으로, NUMA 아키텍처에서 높은 확장성을 달성하기 위해 토폴로지 인식 스케줄링이 필수적임을 확인했다.
• 대용량 데이터셋과 높은 메모리 대역폭 요구 사양이 있는 환경에서 기존 OpenMP 스케줄링 대비 성능이 뛰어났다.