[논문 리뷰] Implementation of float-float operators on graphics hardware

Guillaume da Graçca, David Defour|arXiv (Cornell University)|2006. 03. 29.

Numerical Methods and Algorithms참고 문헌 15인용 수 26

한 줄 요약

이 논문은 GPU에서 단일 정밀도 부동소수점 하드웨어를 기반으로 하여 44비트 부동소수점 산술을 소프트웨어 수준에서 에뮬레이션하는 방법을 제시한다. 이는 두 개의 단일 정밀도 부동소수점 수를 조합하여 더 높은 정밀도를 달성하는 float-float 표현 방식을 사용한다. 이 접근법은 GPU 스트림 처리 기능을 활용하여 단일 정밀도 하드웨어가 제공하는 것보다 더 높은 정밀도가 필요한 응용 분야에서 고성능이고 정확한 연산을 실현한다. 대부분의 연산에서 측정된 정밀도는 이론적 기대 범위 내에 들어맞는다.

ABSTRACT

The Graphic Processing Unit (GPU) has evolved into a powerful and flexible processor. The latest graphic processors provide fully programmable vertex and pixel processing units that support vector operations up to single floating-point precision. This computational power is now being used for general-purpose computations. However, some applications require higher precision than single precision. This paper describes the emulation of a 44-bit floating-point number format and its corresponding operations. An implementation is presented along with performance and accuracy results.

연구 동기 및 목표

• GPU에서 이중 정밀도 부동소수점 지원이 부족하여 고정밀 응용 분야에서 정밀도가 제한되는 문제를 해결하기 위해.
• 단일 정밀도 부동소수점 연산만 네이티브로 지원하는 GPU 하드웨어에서 더 높은 정밀도 산술을 가능하게 하기 위해.
• 두 개의 32비트 부동소수점 수를 사용하여 44비트 정밀도를 에뮬레이트하는 소프트웨어 기반 float-float 표현 방식을 개발하고 평가하기 위해.
• 현대 GPU에서 float-float 구현의 성능과 정밀도를 평가하고, 특히 CPU 기반 대안과의 비교를 통해 분석하기 위해.
• 특히 반대 부호의 피연산자가 포함된 극단적인 케이스에서 발생하는 정밀도 문제를 식별하고 해결하기 위해.

제안 방법

• float-float 표현 방식은 수를 두 개의 단일 정밀도 부동소수점 수의 합으로 저장하여 표준 32비트 부동소수점보다 더 높은 정밀도를 달성한다.
• 덧셈, 곱셈, 융합 곱셈-덧셈과 같은 기본 산술 연산은 오차 보정을 통해 정밀도를 유지하는 알고리즘을 사용하여 구현된다.
• 알고리즘을 효율적으로 프로토타이핑하고 테스트하기 위해 GPU 프로그래밍을 위한 고수준 언어인 Brook을 사용한다.
• 이 접근법은 GPU의 네이티브 단일 정밀도 산술과 중간 결과 저장을 위한 텍스처 메모리를 활용한다.
• 알고리즘은 명령 수준의 오버헤드를 최소화하고 GPU의 데이터 수준 병렬 처리 능력을 최대한 활용하도록 설계된다.
• 사용자 정의 테스트 프레임워크가 임의의 테스트 벡터를 생성하고 결과를 MPFR 기준으로 비교하여 정밀도 검증을 수행한다.

실험 결과

연구 질문

• RQ1 단일 정밀도 부동소수점 수의 가수부가 23비트인 GPU에서 소프트웨어 수준의 float-float 표현이 44비트 정밀도를 달성할 수 있는가?
• RQ2 GPU에서의 float-float 연산 성능은 대규모 데이터 세트에서 CPU의 동등한 연산과 비교해 어떻게 되는가?
• RQ3 float-float 구현의 실제 정밀도는 얼마이며, 이론적 기대치와 얼마나 다를까?
• RQ4 덧셈22와 같은 특정 연산에서 예상보다 높은 오차가 발생하는 이유는 무엇이며, 이는 하드웨어 특성에 기인한 것인가?
• RQ5 Cg나 OpenGL과 같은 저수준 GPU 언어에서 float-float 접근 방식을 효율적으로 최적화할 수 있는가?

주요 결과

• Add12에서 관측된 최대 오차는 -48.0 ULP로, 이론적으로 예상되는 정확한 결과보다 略로 높았으며, 이는 하드웨어 특성에 기인한 반올림 이상 현상일 가능성이 있다.
• Mul12 연산은 이론적 기대에 부합하여 정확하게 수행되었으며, 선택된 표현 방식과 알고리즘에 부합하는 결과였다.
• Add22와 Mul22 연산은 각각 -33.7 및 -45.0 ULP의 더 높은 오차를 보였으며, 주로 알고리즘의 복잡성과 피연산자 간의 극단적인 상호작용 케이스에서 기인했다.
• 기본 float-float 연산들(덧셈, 곱셈, MAD)에 대한 GPU 실행 시간은 거의 동일했으며, 이는 GPU 드라이버가 명령을 효율적으로 스케줄링하고 병합했음을 시사한다.
• Add22와 Mul22 연산은 기본 연산 대비 약 두 배의 시간이 소요되었으며, 이는 내부 알고리즘 점검으로 인한 더 높은 계산 비용을 의미한다.
• GPU와 CPU 간의 성능 격차는 뚜렷했으며, GPU 워크로드에서는 GPU가 CPU보다 약 25배 빠르게 작동했고, CPU 워크로드에서는 약 3000배 빠르게 작동하여 대규모 데이터 처리에서 GPU의 효율성을 입증했다.