[논문 리뷰] An Efficient SIMD Implementation of Pseudo-Verlet Lists for Neighbour Interactions in Particle-Based Codes

James S. Willis, Matthieu Schaller외 3명|arXiv (Cornell University)|2018. 04. 17.

Fluid Dynamics Simulations and Interactions참고 문헌 3인용 수 3

한 줄 요약

이 논문은 Swift 천체역학 시뮬레이션 프레임워크에서 스칼라 코드 대비 AVX, AVX2, AVX-512에서 각각 2.24배, 2.43배, 4.07배의 성능 향상을 달성한, 입자 기반 시뮬레이션을 위한 고도로 최적화된 SIMD 벡터화된 의사-베르레트 리스트 알고리즘의 구현을 제시한다. 이 구현은 셀-페어 축을 따라 입자 투영을 정렬하고, 정확한 루프 경계 조건을 적용하며, 마스크를 사용한 벡터화된 거리 계산을 통해 이루어진다.

ABSTRACT

In particle-based simulations, neighbour finding (i.e finding pairs of particles to interact within a given range) is the most time consuming part of the computation. One of the best such algorithms, which can be used for both Molecular Dynamics (MD) and Smoothed Particle Hydrodynamics (SPH) simulations, is the pseudo-Verlet list algorithm. This algorithm, however, does not vectorise trivially, and hence makes it difficult to exploit SIMD-parallel architectures. In this paper, we present several novel modifications as well as a vectorisation strategy for the algorithm which lead to overall speed-ups over the scalar version of the algorithm of 2.24x for the AVX instruction set (SIMD width of 8), 2.43x for AVX2, and 4.07x for AVX-512 (SIMD width of 16).

연구 동기 및 목표

• 의사-베르레트 리스트에서 이웃 찾기의 비효율성으로 인한 입자 기반 시뮬레이션의 성능 저하 문제를 해결한다.
• 지연 제어 흐름과 비정규적인 메모리 접근 패턴으로 인해 의사-베르레트 리스트의 SIMD 벡터화에 도전하는 문제를 극복한다.
• 현대 CPU 아키텍처에서 데이터 수준 병렬성을 극대화하면서도 알고리즘의 정확성을 유지하는 벡터화 전략을 개발한다.
• Swift 코드베이스를 사용한 실제 천체역학 시뮬레이션에서 상당한 성능 향상을 달성한다.
• 일반적인 SIMD 적용보다 알고리즘 최적화와 저수준 벡터화의 조합이 훨씬 뛰어난 성능을 낳는다는 것을 입증한다.

제안 방법

• 이웃 셀의 입자 위치를 그들의 중심을 연결하는 축에 투영하여 순서 있는 이웃 검색을 가능하게 한다.
• 셀-페어 축을 따라 각 셀의 입자를 투영된 거리 기준으로 정렬하여 루프 조기 종료를 가능하게 한다.
• 루프 반복 수의 사전 계산된 상한선(dist_a[i] + h + max_dx)을 사용하여 불필요한 거리 계산을 줄인다.
• AVX, AVX2, AVX-512 인트린식을 사용한 벡터화된 루프를 마스크 연산과 함께 구현하여 부분적인 벡터 랜드 처리를 가능하게 한다.
• 결과를 배치로 처리하는 누적 벡터를 사용하여 이웃 상호작용 계산 중 메모리 대역폭 압력을 줄인다.
• 하이브리드 접근 방식을 적용: 상호작용 수가 적은 코너 셀-페어에는 스칼라 코드를, 가장자리 및 면 셀-페어에는 벡터화된 코드를 사용하여 전체 성능을 최적화한다.

실험 결과

연구 질문

• RQ1 지연 제어 흐름과 비정규적인 메모리 접근 패턴으로 인해 의사-베르레트 리스트 알고리즘이 SIMD 명령어를 효과적으로 벡터화할 수 있는가?
• RQ2 실제 천체역학 시뮬레이션 워크로드에서 AVX, AVX2, AVX-512를 사용한 의사-베르레트 리스트의 벡터화로 얻는 성능 향상은 어떠한가?
• RQ3 지시어 세트 선택(AVX 대비 AVX2 대비 AVX-512)이 이웃 찾기 성능 향상에 미치는 영향은 어떠한가?
• RQ4 정렬된 투영과 루프 경계 조건과 같은 알고리즘 최적화가 벡터화된 코드에서 불필요한 거리 계산을 줄이는 데 미치는 영향은 어떠한가?
• RQ5 낮은 활동성 설정에서의 벡터화 오버헤드를 피하기 위해 스칼라/벡터화 전략의 하이브리드 접근 방식이 전체 성능 향상에 기여하는가?

주요 결과

• SIMD 최적화된 의사-베르레트 리스트는 Swift 시뮬레이션 프레임워크에서 스칼라 코드 대비 AVX(벡터 폭 8)에서 2.24배의 성능 향상을 달성한다.
• AVX2를 사용할 경우 2.43배의 성능 향상이 이루어져, 지연 수준 병렬성 향상과 더 나은 마스크 지원 덕분에 AVX 대비 성능 향상이 뚜렷하다.
• AVX-512 지시어 세트는 넓은 벡터 랜드(16개)와 향상된 FMA 명령어, 전용 마스크 기능 덕분에 가장 높은 4.07배의 성능 향상을 기록한다.
• 성능 향상은 가장자리 및 면 셀-페어 구성에서 가장 두드러지며, 이는 높은 상호작용 수가 벡터화 오버헤드를 더 잘 분산시키기 때문이다.
• 코너 셀-페어 상호작용에서는 상호작용 수가 적어 최소한의 성능 향상(0.49배)을 보이며, 이는 이러한 케이스에서 벡터화 비용을 피하기 위해 스칼라 코드를 사용하는 것이 타당하다는 것을 입증한다.
• 이deal 8배 SIMD 성능 향상 조건이라도, 단순 O(N²) 이웃 찾기 접근 방식은 최적화된 의사-베르레트 리스트에 비해 여전히 12배 이상 느리며, 이는 알고리즘 효율성의 중요성을 강조한다.