[논문 리뷰] Speeding up a few orders of magnitude the Jacobi method: high order Chebyshev-Jacobi over GPUs

José E. Adsuara, Aloy, M. A.외 2명|arXiv (Cornell University)|2017. 04. 29.

Model Reduction and Neural Networks참고 문헌 4인용 수 3

한 줄 요약

이 논문은 유한차분을 통해 타원형 편미분방정식을 해결하기 위해 GPU 가속화된 고차수 체비셰프-자코비(Chebyshev-Jacobi, CJM) 방법을 제안한다. 기존 자코비 방법 대비 몇 개의 주기적 속도 향상 효과를 달성한다. 고차수 유한차분 스텐실(9점 및 17점)과 최적화된 체비셰프 가속화, GPU 병렬 처리를 조합함으로써 반복 횟수와 계산 시간을 감소시키면서도 높은 정확도를 유지한다.

ABSTRACT

In this technical note we show how to reach a remarkable speed up when solving elliptic partial differential equations with finite differences thanks to the joint use of the Chebyshev-Jacobi method with high order discretizations and its parallel implementation over GPUs.

연구 동기 및 목표

• 유한차분 이산화로부터 유도된 타원형 편미분방정식의 반복적 해법을 크게 가속화하기 위해.
• GPU의 본질적 병렬성을 활용하여 고전적 자코비 방법의 성능을 향상시키기 위해.
• 9점 및 17점 스텐실을 포함한 고차수 이산화 방법이 반복 횟수와 계산 시간을 줄이는 데 있어 우수한 성능을 보임을 입증하기 위해.
• 다양한 GPU 아키텍처(계산 능력 3.5 및 5.2)에서 GPU 최적화된 체비셰프-자코비 방법을 구현하고 벤치마킹하기 위해.

제안 방법

• 라플라스 연산자를 이산화하기 위해 고차수 유한차분 스텐실(9점 및 17점)을 사용하여 정확도를 향상시키고 반복 횟수를 감소시킨다.
• 체비셰프 다항식의 근을 기반으로 분석적으로 유도된 반복 의존 가중치를 사용하는 체비셰프-자코비 방법(CJM)을 적용하여 수렴 속도를 가속화한다.
• 메쉬 크기, 경계 조건 및 고유값 범위(κ_min 및 κ_max)에 따라 의존하는 최적의 가속도 가중치를 계산하기 위해 체비셰프 근의 변환을 시행한다.
• CUDA를 사용하여 GPU에서 CJM를 구현하여 격자 점들 간의 스텐실 업데이트에 효율적인 데이터 병렬성을 활용한다.
• 일致된 오차 수준을 확보하기 위해 수치적 해와 해석적 해의 차이의 무한노름을 수렴 기준으로 사용한다.
• 동일한 테스트 문제와 오차 목표를 기준으로 고전적 자코비, CPU에서의 CJM, GPU에서의 CJM 간 성능을 비교한다.

실험 결과

연구 질문

• RQ1 GPU 아키텍처로 이식되었을 때 체비셰프-자코비 방법이 고전적 자코비 방법 대비 주기적 속도 향상을 달성할 수 있는가?
• RQ2 고차수 유한차분 이산화(9점 대비 17점)는 고전적 5점 스텐실 대비 수렴 속도와 계산 비용에 어떤 영향을 미치는가?
• RQ3 다양한 GPU 계산 능력에서 GPU 가속화된 CJM는 CPU 기반 자코비 및 CJM에 비해 어떤 성능 향상을 보이는가?
• RQ4 고차수 스텐실을 사용하면 동일한 해 정확도를 유지하면서 반복 횟수와 총 계산 시간을 줄일 수 있는가?
• RQ5 다양한 스텐실에 대한 고유값 범위(κ_min 및 κ_max)는 CJM에서 최적의 가중치 전략에 어떤 영향을 미치는가?

주요 결과

• 계산 능력 5.2인 GPU에서 1024×1024 격자에 대해 9점 스텐실을 사용할 경우, GPU 최적화된 체비셰프-자코비 방법이 고전적 자코비 방법 대비 최대 25,235배의 속도 향상을 달성한다.
• 17점 스텐실의 경우, 동일한 격자와 GPU 아키텍처에서 GPU에서의 CJM가 고전적 자코비 방법 대비 12,420배의 속도 향상을 기록한다.
• N=128개의 점을 각 차원에 사용하는 17점 스텐실은 N=2048인 5점 스텐실 대비 반복 횟수와 계산 시간을 한 단계 감소시키며, 동일한 목표 오차(10⁻⁸)를 달성한다.
• 동일한 격자에서 17점 스텐실은 목표 오차에 도달하기 위해 단지 34회의 반복과 352회의 GPU 커널 실행을 필요로 하며, 9점 스텐실은 481회의 반복과 3,570회의 실행을 요구한다.
• 격자 크기와 스텐실 복잡도가 증가함에 따라 키미(Kepler, CC 3.5)와 매그나이트(Maxwell, CC 5.2) GPU 간 성능 격차가 감소하며, 현대 아키텍처에서 강력한 확장성을 보임을 시사한다.
• 고차수 이산화 방법은 일관되게 유리하다: 더 큰 스텐실에도 불구하고 더 빠른 수렴 속도 덕분에 반복 횟수와 총 계산 시간을 감소시키며 동일한 해 정확도를 확보한다.