[논문 리뷰] Accelerating Polynomial Homotopy Continuation on a Graphics Processing Unit with Double Double and Quad Double Arithmetic

Jan Verschelde, Xiangcheng Yu|arXiv (Cornell University)|2015. 01. 26.

Polynomial and algebraic computation참고 문헌 4인용 수 4

한 줄 요약

이 논문은 표준 이중 정밀도로는 다룰 수 없는 불량 조건을 가진 시스템을 다루기 위해 더블 더블 및 콘테이너 더블 산술을 사용하는 GPU 가속 경로 추적기를 제시한다. GPU에서의 세밀한 병렬성과 평가, 미분, 선형 해법 최적화를 통해 이 방법은 일부 경우에서 30배 이상의 성능 향상을 달성하였으며, 이는 낮은 정밀도의 CPU 전용 접근보다 더 높은 정밀도의 해를 더 빠르게 제공한다.

ABSTRACT

Numerical continuation methods track a solution path defined by a homotopy. The systems we consider are defined by polynomials in several variables with complex coefficients. For larger dimensions and degrees, the numerical conditioning worsens and hardware double precision becomes often insufficient to reach the end of the solution path. With double double and quad double arithmetic, we can solve larger problems that we could not solve with hardware double arithmetic, but at a higher computational cost. This cost overhead can be compensated by acceleration on a Graphics Processing Unit (GPU). We describe our implementation and report on computational results on benchmark polynomial systems.

연구 동기 및 목표

• 경로 추적에서 발생하는 큰 불량 조건을 가진 다항식 시스템을 해결할 때 하드웨어 이중 정밀도의 수치적 불안정성을 해결한다.
• 더블 더블 및 콘테이너 더블 정밀도 산술의 계산 비용을 GPU 가속을 통해 극복한다.
• 복소수 계수를 가진 고차원 다항식 시스템에 특화된 확장 가능한 대량 병렬 경로 추적기를 개발한다.
• GPU 가속이 더 높은 정밀도 산술의 오버헤드를 상쇄할 수 있음을 입증하여 더 큰 문제를 해결할 수 있도록 가능하게 한다.
• 다항식 평가, 도함수 계산, 선형 시스템 해법을 최적화한 GPU 커널을 통합하여 생산용 경로 추적기로 개발한다.

제안 방법

• GPU에서 다항식과 그 야코비안의 효율적 평가를 위해 역방향 모드 알고리즘 미분을 사용한다.
• 메모리 접근을 줄이고 스레드 수준 병렬성을 향상시키기 위해 타일링된 하이브리드 왼쪽-오른쪽 봉우리 수정 그람-슈미트 알고리즘을 구현한다.
• QD 라이브러리와 그 GPU 포트를 사용하여 임의 정밀도 복소수 산술(더블 더블 및 콘테이너 더블 정밀도)을 수행한다.
• 뉴턴 단계를 포함한 예측-수정 연속 기법을 적용하며, 각 단계는 GPU에서 병렬로 계산된다.
• 완전 전개된 시스템에서 다항식 평가 및 미분의 데이터 병렬성을 활용해 스레드 블록의 점유율을 최적화한다.
• 모든 구성 요소를 통합하여 GPU 가속 경로 추적기로 개발하였으며, 사이클릭 n-루트 및 피에리 호모토피와 같은 실제 벤치마크 시스템에서 테스트하였다.

실험 결과

연구 질문

• RQ1 더블 더블 및 콘테이너 더블 산술의 계산 비용을 충분히 상쇄할 수 있는가? GPU 가속이 다항식 호모토피 연속에서 성능 향상을 이끌 수 있는가?
• RQ2 시스템의 차원과 차수는 어느 정도일 때 더 높은 정밀도 산술이 필수적이며, GPU 가속이 실용적이게 되는가?
• RQ3 더 높은 정밀도가 필요한 경우, GPU 가속 경로 추적기의 성능은 단일 코어 CPU의 이중 정밀도 성능과 비교해 어떻게 되는가?
• RQ4 문제의 희소성은 GPU 가속의 효과성에 어떤 영향을 미치는가?
• RQ5 시스템 차원이 증가함에 따라 성능 향상은 어떻게 변화하며, 더 높은 정밀도 산술의 비용을 상쇄할 수 있는가?

주요 결과

• 사이클릭 160-루트 문제에서, 더블 더블 정밀도로 GPU를 사용한 결과 단일 코어 CPU의 이중 정밀도 대비 29.31배의 성능 향상을 달성하였다. 이는 더 높은 정밀도임에도 불구하고 성능 향상이 이루어졌다.
• 더블 더블 정밀도에서 n ≥ 128인 시스템의 경우 성능 향상이 30배를 초과하였으며, 시스템 차원이 증가함에 따라 점차 증가했다.
• 사이클릭 256-루트 문제에서는 극도로 불량 조건이 심해 더블 더블 정밀도에서 실패하였으며, 이는 현재 기술의 한계를 보여주었다.
• GPU 가속 더블 더블 정밀도 추적기는 한 경로를 28.75초에 완료하였고, 단일 CPU 코어의 이중 정밀도 대비 93.89초가 소요되어 정밀도를 두 배로 높였음에도 불구하고 3.3배의 성능 향상을 달성하였다.
• 더블 더블 정밀도에서 성능 향상은 이중 정밀도보다 시스템 차원 증가에 따라 더 빠르게 증가하였으며, 이는 GPU 가속이 고차원에서 더 높은 정밀도를 실용적으로 가능하게 한다는 것을 시사한다.
• n ≥ 100인 시스템에서는 더블 더블 산술을 사용하는 GPU 가속이 정밀도 비용을 상쇄하며 이전에는 해결이 불가능했던 문제의 신뢰성 있는 해를 가능하게 하였다.