[논문 리뷰] Parallel Implementations of the Split-Step Fourier Method for Solving Nonlinear Schrödinger Systems

Scott M. Zoldi, V. P. Ruban외 2명|ArXiv.org|1997. 11. 14.

Optical Network TechnologiesEngineering참고 문헌 12인용 수 20

한 줄 요약

이 논문은 1D FFT의 2D 행렬 분해를 사용하여 공유 메모리 및 분산 메모리 아키텍처에서 비선형 슈뢰딩거 방정식(NLSE)을 풀기 위한 병렬 SSF(Split-Step Fourier) 구현을 제시한다. SGI/Cray Origin 200에서 통신 오버헤드를 최소화하고 데이터 국소성을 최적화함으로써 거의 완벽한 스피드업을 달성하였으며, 네 개의 프로세서를 사용할 경우 큰 문제 크기에서 최대 3.4×의 스피드업을 기록하였다.

ABSTRACT

We present a parallel version of the well-known Split-Step Fourier method (SSF) for solving the Nonlinear Schrödinger equation, a mathematical model describing wave packet propagation in fiber optic lines. The algorithm is implemented under both distributed and shared memory programming paradigms on the Silicon Graphics/Cray Research Origin 200. The 1D Fast-Fourier Transform (FFT) is parallelized by writing the 1D FFT as a 2D matrix and performing independent 1D sequential FFTs on the rows and columns of this matrix. We can attain almost perfect speedup in SSF for small numbers of processors depending on both problem size and communication contention. The parallel algorithm is applicable to other computational problems constrained by the speed of the 1D FFT.

연구 동기 및 목표

• 섬유 옵틱에서 대규모 NLSE 시뮬레이션의 계산 병목 현상을 해결하기 위해, 특히 WDM 및 분산 관리 시스템에서의 적용을 위한 목적이 있다.
• 큰 수의 푸리에 모드가 필요한 고해상도 시뮬레이션에서 너무 느려지는 순차적 SSF 구현의 한계를 극복하기 위한 목적이 있다.
• 1D FFT 성능에 제약을 받는 시스템에 적용 가능한 확장 가능한 병렬 SSF 알고리즘을 개발하기 위한 목적이 있다. NLSE에 국한되지 않는다.
• 공유 메모리 및 분산 메모리 모델에서 통신 비용을 최소화하고 데이터 국소성을 향상시킴으로써 다중 프로세서 워크스테이션에서의 성능을 최적화하기 위한 목적이 있다.

제안 방법

• 1D FFT를 2D 행렬 연산으로 재구성하여, 병렬화를 위한 행과 열에 대한 독립적인 1D FFT를 가능하게 한다.
• SGI/Cray Origin 200에서 공유 메모리(OpenMP 스타일 지시어) 및 분산 메모리(MPI) 패러다임을 모두 사용하여 SSF 알고리즘을 구현한다.
• 분산 메모리 환경에서 통신 경쟁을 줄이고 계산 단계 동안 캐시 국소성을 향상시키기 위해 정적 데이터 분포를 사용한다.
• 프로세서에 할당된 부분 배열을 통해 로드 밸런싱을 구현하며, 데이터 독립성을 유지하기 위해 MPI에서 명시적인 데이터 재분배를 수행한다.
• 계산 이득과 통신 비용 간의 균형을 맞추기 위해 문제 크기와 프로세서 수를 조정하여 성능을 최적화한다.
• 벤더 최적화된 1D FFT 라이브러리와 서브어레이 처리를 활용하여 L1 캐시 활용도를 향상시키고 전치 오버헤드를 감소시킨다.

실험 결과

연구 질문

• RQ1 SSF에서 계산 병목 현상이 되는 1D FFT가 2D 행렬 분해를 통해 효과적으로 병렬화되어 고속도를 달성할 수 있는가?
• RQ2 공유 메모리와 분산 메모리 환경에서의 병렬 SSF 구현에서 문제 크기와 프로세서 수에 따라 성능이 어떻게 스케일링되는가?
• RQ3 공유 메모리 SSF와 정적 데이터 분포를 사용하는 분산 메모리 SSF 간의 통신 볼륨과 데이터 경쟁이 스피드업에 미치는 영향은 어떠한가?
• RQ4 대규모 NLSE 시뮬레이션에서 병렬 SSF 알고리즘이 거의 완벽한 스피드업을 달성할 수 있는 정도는 어느 정도인가?
• RQ5 제안된 병렬화 전략은 1D FFT에 의존하는 다른 수치 알고리즘으로 일반화될 수 있는가?

주요 결과

• 분산 메모리(MPI) 구현은 네 개의 프로세서를 사용하여 N=2^18, S=125 단계에서 최대 3.4×의 스피드업을 기록하였으며, T_4pr = 26.8초, T_1pr = 92.4초였다.
• 공유 메모리 구현은 네 개의 프로세서를 사용하여 N=2^16, S=500 단계에서 최대 2.7×의 스피드업을 기록하였으며, T_4pr = 20.1초, T_1pr = 59.4초였다.
• 분산 모델에서 스피드업은 문제 크기가 증가함에 따라 증가한다. 이는 프로세서당 통신 볼륨이 감소하고 정적 분포로 인한 더 나은 데이터 국소성 덕분이다.
• 공유 메모리 모델은 동적 서브어레이 할당과 프로세서 간 데이터 공유로 인해 증가하는 경쟁으로 인해 확장성이 제한된다.
• 병렬 SSF 알고리즘은 심지어 단일 프로세서에서도 최적화된 순차적 1D FFT보다 10–20%의 스피드업을 기록한다. 이는 캐시 활용도 향상과 전치 단계 제거 덕분이다.
• 문제 크기와 프로세서 수를 조정함으로써 거의 완벽한 스피드업을 달성할 수 있으며, 특히 정적 데이터 분할을 통해 통신 비용을 최소화하는 분산 메모리 모델에서 그러한 성능 향상이 두드러진다.