[논문 리뷰] A fast vectorised implementation of Wallace's normal random number generator

Richard P. Brent|arXiv (Cornell University)|2010. 04. 19.

Numerical Methods and Algorithms참고 문헌 17인용 수 11

한 줄 요약

이 논문은 월리스의 정규 난수 생성기의 빠른 벡터화 구현인 RANN4를 제시한다. 이 방법은 균일 난수 스트림이나 초월 함수를 사용하지 않고, 정규 분포된 변량 풀에 정규 직교 행렬 변환을 적용하여 새로운 변량을 생성한다. 히토츠 편의성과 함께, 펄스 프로세서인 후지츠 VP2200 및 VPP300에서 기존의 박스-멀러 및 폴라 방법보다 3배 이상 빠른 성능을 달성하며, f=3인 보수적인 폐기 요소를 사용할 경우 변량당 6.4 사이클의 성능을 기록한다.

ABSTRACT

Wallace has proposed a new class of pseudo-random generators for normal variates. These generators do not require a stream of uniform pseudo-random numbers, except for initialisation. The inner loops are essentially matrix-vector multiplications and are very suitable for implementation on vector processors or vector/parallel processors such as the Fujitsu VPP300. In this report we outline Wallace's idea, consider some variations on it, and describe a vectorised implementation RANN4 which is more than three times faster than its best competitors (the Polar and Box-Muller methods) on the Fujitsu VP2200 and VPP300.

연구 동기 및 목표

• 벡터 및 병렬 아키텍처에 적합한 고성능 정규 난수 생성기를 개발하는 것.
• 정규 변량 생성 과정에서 균일 난수 스트림과 로그, 제곱근, sin, cos 등의 기본 함수에 의존하지 않도록 하는 것.
• 벡터 프로세서에서 빠른 균일 난수 생성기의 성능에 가까운 성능를 달성하는 것.
• 적절한 파라미터 선택과 오류 모니터링을 통해 통계적 강건성을 확보하는 것.

제안 방법

• 정규 직교 행렬 변환(예: 회전 행렬)을 사용하여 기존의 변량 풀에서 새로운 정규 변량을 생성함으로써 제곱합을 유지하고 정규성을 보장함.
• nN개의 정규 분포된 수치를 N개의 행렬-벡터 곱셈을 통해 재생성함. 이때 n은 효율성을 위해 일반적으로 2 또는 4로 설정됨.
• 정수 상수 α, β, γ, δ를 사용하여 변환에서 단위가 아닌 스타트를 정의함으로써 통계적 독립성을 확보하고 극단치의 상관관계를 감소시킴.
• 각 루프의 초기 값을 폐기하기 위해 폐기 요소 f를 적용함으로써 극단치 크기의 상관관계를 감소시키고 통계적 성질을 향상시킴.
• 반올림 오차로 인한 드리프트를 감지하기 위해 제곱합을 모니터링함으로써 런타임 보정 및 오류 탐지 기능을 제공함.
• Fujitsu VP2200 및 VPP300 시스템에 구현되어, 고처리량을 위한 벡터 명령 수준 병렬성을 활용함.

실험 결과

연구 질문

• RQ1 월리스의 정규 난수 생성기가 벡터 프로세서에서 빠르게 벡터화되어, 빠른 균일 생성기의 성능에 가까운 성능을 달성할 수 있는가?
• RQ2 폐기 요소 f와 같은 파라미터의 선택에 따라 통계적 성질인 모멘트 일관성과 변량의 균일성은 어떻게 달라지는가?
• RQ3 비단위 스타트를 가진 정규 직교 행렬 변환은 출력 시퀀스의 극단치 상관관계에 어떤 영향을 미치는가?
• RQ4 외부 균일 난수 스트림이나 초월 함수 평가 없이도 생성기가 통계적 품질을 유지할 수 있는가?

주요 결과

• Fujitsu VP2200/10에서 f=3일 경우 RANN4는 변량당 6.4 사이클의 성능을 기록하며, 이는 이전까지 가장 빠른 방법인 RANN3(21.9 사이클)보다 3.2배 빠름.
• VPP300에서는 변량당 약 11.4 nsec(f=3) 또는 f=1일 경우 5.4 nsec의 성능를 기록하여 VP2200 대비 두 배의 성능 향상을 보임.
• 통계적 검정 결과, 변환된 변수 u = exp(-(x²+y²)/2)와 v = arctan(x/y)는 균일 분포를 따르며, χ² 통계량은 f ≥ 1일 경우 균일성에서 유의미한 이탈이 없음을 나타냄.
• f=1일 경우 생성된 변량의 네 번째 모멘트는 5% 신뢰수준에서 유의미하게 작아지며, 극단치의 상관관계 증가를 시사함. 이 효과는 f ≥ 3일 경우 완화됨.
• 제곱합을 모니터링하여 반올림 오차로 인한 드리프트를 감지하며, 작업 영역이 덮어쓰일 경우 메모리 손상도 성공적으로 탐지함.
• 벡터-병렬 아키텍처인 VPP300과 같은 환경에서 초기화 이후에 프로세서 간 통신 없이 독립적인 난수 스트림을 생성할 수 있음.