[论文解读] Efficient Parallel Simulations of Asynchronous Cellular Arrays

Boris D. Lubachevsky|ArXiv.org|Feb 8, 2005

Cellular Automata and Applications参考文献 8被引用 56

一句话总结

本文提出了一类由独立泊松过程定义细胞更新的新型异步细胞阵列，引入了高效的并行算法，将一个或多个细胞分配给每个处理单元（PE），使各PE的本地时间可不同。该方法通过避免同步需求并集成BKL算法以提升性能，实现了显著的加速——使用25个PE时速度提升超过16倍，使用16,384个PE时超过1900倍，证明了在不改变底层马尔可夫链的前提下，高效并行模拟异步系统是可行的。

ABSTRACT

A definition for a class of asynchronous cellular arrays is proposed. An example of such asynchrony would be independent Poisson arrivals of cell iterations. The Ising model in the continuous time formulation of Glauber falls into this class. Also proposed are efficient parallel algorithms for simulating these asynchronous cellular arrays. In the algorithms, one or several cells are assigned to a processing element (PE), local times for different PEs can be different. Although the standard serial algorithm by Metropolis, Rosenbluth, Rosenbluth, Teller, and Teller can simulate such arrays, it is usually believed to be without an efficient parallel counterpart. However, the proposed parallel algorithms contradict this belief proving to be both efficient and able to perform the same task as the standard algorithm. The results of experiments with the new algorithms are encouraging: the speed-up is greater than 16 using 25 PEs on a shared memory MIMD bus computer, and greater than 1900 using 2**14 PEs on a SIMD computer. The algorithm by Bortz, Kalos, and Lebowitz can be incorporated in the proposed parallel algorithms, further contributing to speed-up. [In this paper I invented the update-cites-of-local-time-minima parallel simulation scheme. Now the scheme is becoming popular. Many misprints of the original 1987 Complex Systems publication are corrected here.-B.L.]

研究动机与目标

• 定义一类自然且数学上精确的细胞阵列异步形式，特别是基于泊松过程的细胞更新，以捕捉如Glauber伊辛模型等真实世界动力学。
• 克服长期以来认为异步模拟缺乏高效并行版本的观念，设计保持正确性与可重现性的算法。
• 在不修改原始马尔可夫链的前提下，实现对异步系统瞬态与平衡行为的高性能模拟。
• 证明即使在PE之间存在有限延迟的情况下，也能实现并行效率，确保实际应用中的可行性。

提出的方法

• 定义一类异步细胞阵列，其中每个细胞的更新遵循独立的泊松过程，更新速率为λ，且状态变化仅依赖于该细胞及其邻居的当前状态。
• 将一个或多个细胞分配给每个处理单元（PE），使每个PE可维护其自身的本地时间，从而实现独立且非同步的计算。
• 使用改进的Metropolis算法，通过Bortz-Kalos-Lebowitz（BKL）算法实现无拒绝的更新，避免因状态变化失败而造成的计算浪费。
• 基于邻居配置，为每个PE实施概率更新规则：角落单元（|W(c)|=0）以概率p₀更新，边沿单元（|W(c)|=1）以概率p₁更新，角落单元（|W(c)|=2）以概率p₂更新，并相应地更新局部能量值h(C)。
• 采用简化模型预测性能，其中每个PE模拟一个子阵列，并根据邻居比较更新其局部能量，效率计算为串行时间除以（PE数量 × 并行执行时间）。
• 使用共享内存的MIMD架构及基于总线的通信系统，要求每个PE维护一个可重现的独立伪随机数生成器，以确保模拟的可重现性。

实验结果

研究问题

• RQ1 能否形式化一类通用且数学上明确定义的异步细胞阵列，使其包含如Glauber伊辛模型等模型？
• RQ2 能否设计一种并行模拟算法，用于此类异步阵列，避免同步开销并保持正确性？
• RQ3 能否在非同步的并行框架中有效集成BKL算法，以提升性能而不改变底层随机过程？
• RQ4 当PE之间最大延迟被限制时，并行算法的效率如何退化？可接受性能的实际阈值是什么？

主要发现

• 所提出的并行算法在使用25个PE的共享内存MIMD总线计算机上模拟120×120伊辛模型时，速度提升超过16倍。
• 使用16,384个PE时，速度提升超过1900倍，表明在SIMD架构上具有强大的可扩展性。
• 简化性能模型预测：当10⁴个PE模拟10⁴×10⁴阵列时，效率约为0.8，速度提升约8,000倍。
• 当PE间延迟上限超过16个时间单位（以到达间隔的期望值计）时，效率仅轻微下降，仍保持在无限制情况下的80%以上。
• 即使延迟上限极为严格（仅为0.3），效率仍维持在约0.1，使用1024个PE时仍可实现超过100倍的实际加速。
• 将BKL算法集成到并行框架中显著提升了性能，证实其与非同步并行执行具有高度兼容性。