[論文レビュー] Universal Numbers Library: design and implementation of a high-performance reproducible number systems library

E. Theodore L. Omtzigt, Peter Gottschling+2 more|arXiv (Cornell University)|Dec 20, 2020

Numerical Methods and Algorithms参考文献 8被引用数 8

ひとこと要約

Universal Numbers Library は、任意精度整数、小数、固定小数点、浮動小数点、および新しい傾き付き浮動小数点形式（ポジットとバリッド）をサポートする、高性能で再現性のある数値システムライブラリを提供する。このライブラリは、x86、ARM、POWERなど多様なハードウェア上で効率的で、ポータブルかつ決定論的な計算を可能にし、科学計算およびリアルタイム応用のための高性能線形代数ランタイムへの統合が実証済みである。

ABSTRACT

With the proliferation of embedded systems requiring intelligent behavior, custom number systems to optimize performance per Watt of the entire system become essential components for successful commercial products. We present the Universal Number Library, a high-performance number systems library that includes arbitrary integer, decimal, fixed-point, floating-point, and introduces two tapered floating-point types, posit and valid, that support reproducible arithmetic computation in arbitrary concurrency environments. We discuss the design of the Universal library as a run-time for application development, and as a platform for application-driven hardware validation. The library implementation is described, and examples are provided to show educational examples to elucidate the number system properties, and how specialization is used to yield very high-performance emulation on existing x86, ARM, and POWER processors. We will highlight the integration of the library in larger application environments in computational science and engineering to enable multi-precision and adaptive precision algorithms to improve performance and efficiency of large scale and real-time applications. We will demonstrate the integration of the Universal library into a high-performance reproducible linear algebra run-time. We will conclude with the roadmap of additional functionality of the library as we are targeting new application domains, such as Software Defined Radio, instrumentation, sensor fusion, and model-predictive control.

研究の動機と目的

• 知能的な動作を有する組み込みシステムにおけるエネルギー効率的でカスタム化された数値システムの増大するニーズに対応する。
• 信頼性の高い科学的およびリアルタイム計算に不可欠な、任意の並列実行環境における再現性のある算術を実現する。
• 複数の数値システム（包括的に新しい傾き付き形式を含む）をサポートするポータブルで高性能なランタイムライブラリを提供する。
• アプリケーション駆動のハードウェア検証を可能にするプラットフォームとして機能することで、ハードウェア・ソフトウェア共同設計を促進する。
• 適応的かつ多倍率の算術を統合することで、大規模およびリアルタイム応用の能力を拡張する。

提案手法

• 任意精度整数、固定小数点、浮動小数点、および2つの傾き付き形式（ポジットとバリッド）を含む複数の数値システムを抽象化するC++ベースのソフトウェアライブラリを設計する。
• x86、ARM、POWERプロセッサ向けに特殊化され高度に最適化されたカーネルを実装し、ソフトウェアエミュレーションでの高性能を達成する。
• 再現性のある算術セマンティクスにより、異なる実行環境間でビット同一の決定論的結果を保証する。
• 高性能線形代数ランタイムにライブラリを統合し、科学計算ワークロードにおけるスケーラビリティと効率性を実証する。
• アプリケーション駆動のカスタム数値システムハードウェア設計の検証を可能にするランタイム抽象化レイヤーとしてライブラリを活用する。
• 明確な例を提供することで、教育的用途を支援し、異なる数値システムの特性とトレードオフを説明する。

実験結果

リサーチクエスチョン

• RQ1 統合されたソフトウェアライブラリは、異種プロセッサ上で高いパフォーマンスを維持しつつ、多様な数値システムを効率的にサポートできるか？
• RQ2 傾き付き浮動小数点形式（ポジットとバリッド）は、科学的およびリアルタイム応用において、精度とエネルギー効率をどの程度向上できるか？
• RQ3 ソフトウェアのみの実装を用いて、任意の並列実行環境で再現性のある算術を効果的に達成できるか？
• RQ4 ライブラリは、カスタム数値システムアクセラレータの検証プラットフォームとして機能することで、ハードウェア・ソフトウェア共同設計をどのように促進できるか？
• RQ5 適応的かつ多倍率の算術を統合することで、大規模科学計算においてどの程度のパフォーマンス向上と精度向上が達成できるか？

主な発見

• Universal Numbers Library は、x86、ARM、POWERアーキテクチャ向けに特殊化されたプロセッサ最適化カーネルにより、高いパフォーマンスを達成している。
• ライブラリは、異なるスレッドおよびプラットフォーム間でビット同一の再現性のある結果を実現しており、信頼性の高い科学的およびリアルタイム計算にとって不可欠である。
• 傾き付き浮動小数点形式（ポジットとバリッド）は、組み込みおよびリアルタイムシステムにおける精度とエネルギー効率の向上に強く期待できる。
• 高性能線形代数ランタイムへの統合により、大規模計算ワークロードにおけるライブラリのスケーラビリティと有効性が確認された。
• ライブラリは、カスタム数値システムアクセラレータの初期段階での設計および検証を可能にする、アプリケーション駆動のハードウェア検証プラットフォームとして成功裏に機能した。
• ライブラリに含まれる教育的例は、異なる数値システム間の精度、範囲、パフォーマンスのトレードオフを効果的に説明している。