[论文解读] An Optimized Sparse Approximate Matrix Multiply

Nicolas Bock, Matt Challacombe|arXiv (Cornell University)|Mar 8, 2012

Quantum Computing Algorithms and Architecture参考文献 104被引用 1

一句话总结

本文提出了一种针对稀疏近似矩阵乘法（SpAMM）算法的单精度优化实现，该算法在具有衰减特性的矩阵上实现 O(n ln n) 时间复杂度，当矩阵规模 n ≈ 1000 时，其性能已优于 SGEMM，同时保持比 SGEMM 更低的误差（最大范数）。该实现显著提升了 SpAMM 的运行速度，相较于基于 MKL/ACML 的朴素实现，通过改进硬件预取机制，有望实现 2–3 倍的加速。

ABSTRACT

Group T-1, Theoretical Division, Los Alamos National Laboratory, Los Alamos, NM 87544(Dated: March 22, 2012)We present an optimized single-precision implementation of the Sparse Approximate Matrix Mul-tiply (SpAMM) [M. Challacombe and N. Bock, arXiv 1011.3534 (2010)], a fast algorithm for matrix-matrix multiplication for matrices with decay that achieves an O(nlnn) computational complexitywith respect to matrix dimension n. We nd that the max norm of the error achieved with a SpAMMtolerance below 2 810 is lower than that of the single-precision SGEMM for dense quantum chem-ical matrices, while outperforming SGEMM with a cross-over already for small matrices (n˘1000).Relative to naive implementations of SpAMM using Intel’s Math Kernel Library (MKL) or AMD’s CoreMath Library (ACML), our optimized version is found to be signi cantly faster. Detailed perfor-mance comparisons are made for quantum chemical matrices with di erently structured sub-blocks.Finally, we discuss the potential of improved hardware prefetch to yield 2{3x speedups.

研究动机与目标

• 针对量子化学应用中的单精度矩阵乘法，优化 SpAMM 算法。
• 在小到中等规模矩阵上，实现优于标准 SGEMM 的性能，同时保持更低的误差。
• 通过算法级与底层优化，将 SpAMM 的性能提升至超越基于 MKL 或 ACML 的朴素实现水平。
• 评估不同子块结构的量子化学矩阵在 SpAMM 上的性能表现。
• 探索硬件预取在进一步加速 SpAMM 性能方面的潜力。

提出的方法

• 采用 SpAMM 算法，利用矩阵元素的衰减特性，以 O(n ln n) 时间复杂度近似实现矩阵-矩阵乘法。
• 通过面向单精度算术与缓存感知内存访问的底层优化实现该算法。
• 通过与 SGEMM 及基于 MKL/ACML 的朴素 SpAMM 进行基准测试，分离出算法与实现改进带来的性能增益。
• 分析不同子块结构的量子化学矩阵在 SpAMM 上的性能表现，以评估其鲁棒性与可扩展性。
• 通过受控实验评估硬件预取对性能的影响。
• 采用最大范数量化与精确矩阵乘法的误差，确保计算精度得以保持。

实验结果

研究问题

• RQ1 SpAMM 是否可被优化，使其在量子化学矩阵上实现优于 SGEMM 的性能与精度？
• RQ2 与基于 MKL/ACML 的朴素实现相比，优化后的 SpAMM 在运行时间与可扩展性方面表现如何？
• RQ3 量子化学矩阵中不同子块结构对优化后 SpAMM 的性能有何影响？
• RQ4 硬件预取在多大程度上可提升 SpAMM 性能？可实现多大程度的加速？
• RQ5 当 SpAMM 容差设置低于 2×10⁻⁸ 时，SpAMM 是否仍保持比 SGEMM 更低的误差？

主要发现

• 优化后的 SpAMM 在矩阵规模 n ≈ 1000 时即超越 SGEMM，表现出性能交叉点。
• 当 SpAMM 容差低于 2×10⁻⁸ 时，其最大范数误差低于 SGEMM，表明精度更优。
• 由于针对性的底层优化，优化后的 SpAMM 显著快于基于 MKL 或 ACML 的朴素实现。
• 在具有不同子块结构的矩阵上，性能增益保持一致，表明对矩阵结构变化具有鲁棒性。
• 硬件预取可实现潜在 2–3 倍的加速，凸显其作为未来系统关键优化方向的潜力。
• SpAMM 的 O(n ln n) 时间复杂度使其在具有衰减特性的大矩阵上具备可扩展性能，适用于量子化学应用。