[논문 리뷰] Fast normal random number generators on vector processors

Richard P. Brent|arXiv (Cornell University)|2010. 04. 19.

Algorithms and Data Compression참고 문헌 14인용 수 13

한 줄 요약

이 논문은 퓨지츠 VP2200/10과 같은 벡터 프로세서에서 빠르고 고품질의 정규 난수를 생성하기 위한 박스-멀러 및 폴라 방법의 최적화된 벡터화 구현을 제시한다. 알고리즘적 개선과 삼각함수에 대한 빠른 다항식 근사치를 사용한 폴라 방법은 표준 박스-멀러 방법과 다른 기각 기반 방법을 능가하는 성능을 보이며, 정규 분포 난수 1개당 21.9 사이클을 기록한다.

ABSTRACT

We consider pseudo-random number generators suitable for vector processors. In particular, we describe vectorised implementations of the Box-Muller and Polar methods, and show that they give good performance on the Fujitsu VP2200. We also consider some other popular methods, e.g. the Ratio method of Kinderman and Monahan (1977) (as improved by Leva (1992)), and the method of Von Neumann and Forsythe, and show why they are unlikely to be competitive with the Polar method on vector processors.

연구 동기 및 목표

• 고성능 벡터 프로세서에 적합한 효율적이고 벡터화 가능한 정규 난수 생성기를 개발하기 위해.
• 벡터 아키텍처에서 고전적인 정규 난수 생성 방법—박스-멀러, 폴라, 비율, 본 네이먼–포르시테 방법—의 성능을 평가하고 비교하기 위해.
• 비싼 초월함수를 빠른 다항식 근사치로 대체하고 기각 논리를 최적화하여 계산 오버헤드를 최소화하기 위해.
• 적절히 벡터화된 단순한, 오래된 방법이 잘 최적화된 순차 알고리즘을 능가할 수 있음을 보여주기 위해.

제안 방법

• sin 및 cos 함수에 대한 빠른 인-line 다항식 근사치를 사용한 박스-멀러 방법의 벡터화 구현으로, 고비용 라이브러리 호출에 대한 의존도를 감소시킴.
• 단위 원 안에서 기각 샘플링을 사용하는 폴라 방법(Marsaglia–Bray 변형)을 활용해 삼각함수를 회피하고, 난수 쌍당 하나의 제곱근과 로그 함수로 대체함.
• 기각 루프를 효율적으로 처리하기 위해 벡터 수집/산산작렬 연산을 활용하여, 벡터 아키텍처에서 고처리량 생성을 가능하게 함.
• 절대 오차 < 10⁻¹⁰인 다항식 근사치를 통해 초월함수(ln, sqrt, sin, cos)를 최적화하여 통계적 품질을 확보함.
• 균일 난수 생성을 위해 일반화된 피보나치 생성기 RANU4를 사용하였으며, VP2200/10에서 난수 1개당 2.2 사이클의 비용을 기록함.
• 비교를 위해 비율 방법과 본 네이먼–포르시테(GRAND) 방법을 구현하고, 비벡터화 효율성 분석을 통해 비순차적 반복과 산산작렬 제어 흐름으로 인한 문제점을 분석함.

실험 결과

연구 질문

• RQ1 박스-멀러 및 폴라와 같은 고전적인 정규 난수 생성 방법을 고성능 컴퓨팅을 위한 벡터화에 효과적으로 적용할 수 있는가?
• RQ2 비율 방법과 GRAND와 같은 기각 기반 방법은 순차 머신에서는 효율적이지만, 왜 벡터 프로세서에서는 성능이 열 劣하는가?
• RQ3 벡터화된 생성기에서 비싼 초월함수(sin, cos, ln) 사용과 더 많은 균일 난수 생성 및 기각 논리 증가 사이의 성능 상충 관계는 어떠한가?
• RQ4 삼각함수에 대한 빠른 다항식 근사치는 출력의 성능과 통계적 품질에 어떤 영향을 미치는가?
• RQ5 퓨지츠 VP2200/10과 같은 벡터 프로세서에 최적화된 정규 난수 생성기 아키텍처는 무엇인가?

주요 결과

• 벡터화된 폴라 방법은 퓨지츠 VP2200/10에서 정규 분포 난수 1개당 21.9 사이클을 기록하여, 최고의 박스-멀러 구현(26.3 사이클)을 능가함.
• sin 및 cos 함수에 대한 빠른 다항식 근사치의 사용으로 삼각함수 평가 비용이 감소하여, 박스-멀러 방법의 효율적 벡터화가 가능해짐.
• 비율 방법은 로그 평가 수를 줄였음에도 불구하고, 벡터 수집/산산작렬 연산의 높은 오버헤드와 낮은 출력률(1 사이클당 반으로 적은 난수 수)으로 인해 성능에서 열 劣함.
• GRAND 및 유사한 반복적 기각 방법은 반복 횟수가 무한대일 수 있고 영역 기반 기각 논리가 복잡하여 벡터화에 부적합하며, 결과적으로 낮은 성능을 보임.
• 폴라 방법의 기각 단계는 평균적으로 난수 1개당 4/π ≈ 1.27개의 균일 난수를 필요로 하지만, 고비용 삼각함수의 제거로 인해 전체적으로 더 효율적임.
• 통계적 품질은 유지되었으며, 초월함수의 근사 오차는 10⁻¹⁰ 이하로 유지되어 최대 10²⁰개의 난수를 사용한 테스트에서도 편향이 감지되지 않음.