[논문 리뷰] Efficient Parallel Simulations of Asynchronous Cellular Arrays

Boris D. Lubachevsky|ArXiv.org|2005. 02. 08.

Cellular Automata and Applications참고 문헌 8인용 수 56

한 줄 요약

이 논문은 세포 갱신에 독립적인 포아송 과정을 사용하는 비동기 셀룰러 어레이의 새로운 클래스를 제안하며, 각 처리 요소(PE)에 하나 이상의 세포를 할당하는 효율적인 병렬 알고리즘을 도입함으로써 PE 간 국소 시간이 다를 수 있도록 한다. 동기화가 필요 없고 BKL 알고리즘을 통합함으로써 성능을 향상시켜, 25개의 PE를 사용할 경우 16 이상, 16,384개의 PE를 사용할 경우 1900 이상의 속도 향상을 달성한다. 이는 기존 마코프 체인을 수정하지 않고도 비동기 시스템의 효율적 병렬 시뮬레이션 가능성을 입증한다.

ABSTRACT

A definition for a class of asynchronous cellular arrays is proposed. An example of such asynchrony would be independent Poisson arrivals of cell iterations. The Ising model in the continuous time formulation of Glauber falls into this class. Also proposed are efficient parallel algorithms for simulating these asynchronous cellular arrays. In the algorithms, one or several cells are assigned to a processing element (PE), local times for different PEs can be different. Although the standard serial algorithm by Metropolis, Rosenbluth, Rosenbluth, Teller, and Teller can simulate such arrays, it is usually believed to be without an efficient parallel counterpart. However, the proposed parallel algorithms contradict this belief proving to be both efficient and able to perform the same task as the standard algorithm. The results of experiments with the new algorithms are encouraging: the speed-up is greater than 16 using 25 PEs on a shared memory MIMD bus computer, and greater than 1900 using 2**14 PEs on a SIMD computer. The algorithm by Bortz, Kalos, and Lebowitz can be incorporated in the proposed parallel algorithms, further contributing to speed-up. [In this paper I invented the update-cites-of-local-time-minima parallel simulation scheme. Now the scheme is becoming popular. Many misprints of the original 1987 Complex Systems publication are corrected here.-B.L.]

연구 동기 및 목표

• 셀룰러 어레이에서 비동기성을 자연스럽고 수학적으로 정확하게 정의하는 것, 특히 Glauber 이징 모델과 같은 실제 동역학을 반영하는 포아송 기반 세포 갱신을 포함한다.
• 오랜 기간 동안 비동기 시뮬레이션은 효율적인 병렬 대응이 없다는 믿음이 있었지만, 정확성과 재현 가능성을 유지하는 알고리즘 설계를 통해 이를 극복한다.
• 기존 마코프 체인을 수정하지 않고도 비동기 시스템의 일시적 및 평형 거동을 고성능으로 시뮬레이션할 수 있도록 한다.
• PE 간 최대 지연이 유한함에도 불구하고 병렬 효율성이 달성될 수 있음을 입증함으로써 실용적인 구현 가능성을 확보한다.

제안 방법

• 각 세포의 갱신이 독립적인 포아송 과정(강도 λ)을 따르며, 상태 변화는 해당 세포의 현재 상태와 이웃 상태에만 의존하는 비동기 셀룰러 어레이의 클래스를 정의한다.
• 각 처리 요소(PE)에 하나 이상의 세포를 할당하여, 각 PE가 자체적인 국소 시간을 유지할 수 있도록 하여, 상호 동기화 없이 독립적인 계산이 가능하도록 한다.
• 실패한 상태 변화에 대한 낭비를 방지하기 위해 Bortz-Kalos-Lebowitz(BKL) 알고리즘을 활용한 수정된 메트로폴리스 알고리즘을 사용한다.
• 이웃 구성에 기반한 확률적 업데이트 규칙을 각 PE에 적용: 모서리 세포(|W(c)|=0)에 대해 확률 p₀, 모서리 세포(|W(c)|=1)에 대해 확률 p₁, 모서리 세포(|W(c)|=2)에 대해 확률 p₂를 적용하고, 이에 따라 국소 에너지 값 h(C)를 갱신한다.
• 성능을 예측하기 위한 단순화된 모델을 사용하며, 각 PE는 하위어레이를 시뮬레이션하고 이웃 비교에 기반해 국소 에너지를 갱신한다. 효율성은 순차적 실행 시간을 (PE 수 × 병렬 실행 시간)으로 나누어 계산한다.
• 공유 메모리 MIMD 아키텍처와 버스 기반 통신 시스템을 사용하며, 각 PE가 재현 가능한 독립적인 의사난수 생성기를 유지하여 시뮬레이션의 재현 가능성을 확보한다.

실험 결과

연구 질문

• RQ1 Glauber 이징 모델과 같은 모델을 포함하는 일반적이고 수학적으로 잘 정의된 비동기 셀룰러 어레이의 클래스를 정의할 수 있는가?
• RQ2 동기화 오버헤드를 피하면서도 정확성을 유지하는 비동기 어레이를 위한 병렬 시뮬레이션 알고리즘을 설계할 수 있는가?
• RQ3 BKL 알고리즘이 비동기화된 병렬 프레임워크에 효과적으로 통합되어 기존 스토케스틱 과정을 변경하지 않고 성능 향상을 이룰 수 있는가?
• RQ4 PE 간 최대 지연이 유한할 경우 병렬 알고리즘의 효율성이 어떻게 저하되는가? 그리고 실용적인 성능 기준으로 적절한 임계값은 무엇인가?

주요 결과

• 공유 메모리 MIMD 버스 컴퓨터에서 120×120 이징 모델을 시뮬레이션할 경우 25개의 PE를 사용하여 제안된 병렬 알고리즘이 16 이상의 속도 향상을 달성한다.
• 16,384개의 PE를 사용할 경우 속도 향상이 1900을 초과하여 SIMD 아키텍처에서 강력한 스케일러빌리티를 입증한다.
• 단순화된 성능 모델은 10⁴개의 PE가 10⁴×10⁴ 어레이를 시뮬레이션할 경우 효율성이 약 0.8, 속도 향상이 약 8,000로 예측한다.
• PE 간 지연 상한이 16 시간 단위를 초과해도 효율성은 다소 저하되며, 무한한 경우 대비 80% 이상 유지된다.
• 매우 좁은 지연 상한 0.3조차도 효율성이 약 0.1을 유지하여 1024개의 PE를 사용할 경우 실용적인 속도 향상이 100을 초과한다.
• 병렬 프레임워크에 BKL 알고리즘을 통합함으로써 성능 향상이 크게 기여하며, 이는 비동기화 병렬 실행과의 호환성을 확인한다.