[论文解读] Universal Numbers Library: design and implementation of a high-performance reproducible number systems library

E. Theodore L. Omtzigt, Peter Gottschling+2 more|arXiv (Cornell University)|Dec 20, 2020

Numerical Methods and Algorithms参考文献 8被引用 8

一句话总结

通用数值库引入了一个高性能、可复现的数值系统库，支持任意精度整数、小数、定点数、浮点数以及新型锥形浮点格式（posit 和 valid）。该库可在多种硬件（x86、ARM、POWER）上实现高效、可移植且确定性的计算，并已在高性能线性代数运行时中得到验证，适用于科学计算和实时应用。

ABSTRACT

With the proliferation of embedded systems requiring intelligent behavior, custom number systems to optimize performance per Watt of the entire system become essential components for successful commercial products. We present the Universal Number Library, a high-performance number systems library that includes arbitrary integer, decimal, fixed-point, floating-point, and introduces two tapered floating-point types, posit and valid, that support reproducible arithmetic computation in arbitrary concurrency environments. We discuss the design of the Universal library as a run-time for application development, and as a platform for application-driven hardware validation. The library implementation is described, and examples are provided to show educational examples to elucidate the number system properties, and how specialization is used to yield very high-performance emulation on existing x86, ARM, and POWER processors. We will highlight the integration of the library in larger application environments in computational science and engineering to enable multi-precision and adaptive precision algorithms to improve performance and efficiency of large scale and real-time applications. We will demonstrate the integration of the Universal library into a high-performance reproducible linear algebra run-time. We will conclude with the roadmap of additional functionality of the library as we are targeting new application domains, such as Software Defined Radio, instrumentation, sensor fusion, and model-predictive control.

研究动机与目标

• 解决嵌入式系统中对节能、定制化数值系统日益增长的需求，以实现智能行为。
• 在任意并发环境中实现可复现的算术运算，这对可靠科学计算和实时计算至关重要。
• 提供一个可移植的高性能运行时库，支持多种数值系统，包括新型锥形格式。
• 通过作为应用驱动的硬件验证平台，促进软硬件协同设计。
• 通过自适应和多精度算术扩展大规模和实时应用的能力。

提出的方法

• 设计一个基于 C++ 的软件库，抽象多种数值系统，包括任意精度整数、定点数、浮点数，以及两种锥形格式：posit 和 valid。
• 为 x86、ARM 和 POWER 处理器实现专用的高性能优化内核，以在软件仿真中实现高效率。
• 通过可复现的算术语义，确保在不同执行环境之间获得位级完全一致、确定性的结果。
• 将该库集成到高性能线性代数运行时中，以证明其在科学计算工作负载中的可扩展性和效率。
• 将该库用作运行时抽象层，以实现对定制数值系统硬件设计的应用驱动验证。
• 通过提供清晰的示例，支持教育用途，以阐明不同数值系统之间的特性与权衡。

实验结果

研究问题

• RQ1 如何通过统一的软件库高效支持多种数值系统，同时在异构处理器上保持高性能？
• RQ2 锥形浮点格式（posit 和 valid）在科学计算和实时应用中，能在多大程度上提升精度和能效？
• RQ3 是否可以通过纯软件实现，在任意并发环境中有效实现可复现的算术运算？
• RQ4 该库如何通过作为定制数值系统加速器的验证平台，促进软硬件协同设计？
• RQ5 通过集成自适应和多精度算术，可在大规模科学计算中实现哪些性能和精度提升？

主要发现

• 通用数值库通过为 x86、ARM 和 POWER 架构量身定制的高性能处理器优化内核，实现了高性能。
• 该库可在不同执行线程和平台之间实现位级完全一致的可复现结果，这对可靠科学计算和实时计算至关重要。
• 锥形浮点格式（posit 和 valid）在嵌入式和实时系统中展现出显著提升精度和能效的潜力。
• 与高性能线性代数运行时的集成，证实了该库在大规模计算工作负载中的可扩展性和有效性。
• 该库成功作为应用驱动的硬件验证平台，实现了对定制数值系统加速器的早期设计与验证。
• 库中提供的教育示例有效展示了不同数值系统在精度、范围和性能之间的权衡。