[論文レビュー] Digit Serial Methods with Applications to Division and Square Root (with mechanically checked correctness proofs)

Warren E. Ferguson, Jesse Bingham+3 more|arXiv (Cornell University)|Aug 1, 2017

Numerical Methods and Algorithms参考文献 11被引用数 4

ひとこと要約

この論文は、高基数除算および平方根アルゴリズムにおけるデジットシリアル法（DSM）を分析する汎用的な形式的手法を提示し、デジット値および近似誤差のきめ細かい境界を導出する。HOL Lightを用いた機械的検証により、これらの境界が効率的なオフ・ザ・フライト丸めと信号幅の決定を可能にすることを証明し、パrameterizedアルゴリズムに対して検証済みの結果を提示する。

ABSTRACT

We present a generic digit serial method (DSM) to compute the digits of a real number $V$ . Bounds on these digits, and on the errors in the associated estimates of $V$ formed from these digits, are derived. To illustrate our results, we derive such bounds for a parameterized family of high-radix algorithms for division and square root. These bounds enable a DSM designer to determine, for example, whether a given choice of parameters allows rapid formation and rounding of its approximation to $V$. All our claims are mechanically verified using the HOL-Light theorem prover, and are included in the appendix with commentary.

研究の動機と目的

• 実数 V のデジットを逐次的に計算するデジットシリアル法（DSM）を分析する汎用的なフレームワークの構築。
• DSMにおけるデジットの大きさおよび近似誤差の正確な境界を導出し、効率的なハードウェア設計を可能にする。
• このフレームワークをパrameterizedな高基数除算および平方根アルゴリズムの族に適用する。
• HOL Light定理証明器を用いて、すべての境界およびアルゴリズム的主張を形式的に検証する。
• 近似誤差およびデジット行動の定量的評価により、DSM近似の迅速かつ正確なオフ・ザ・フライト丸めを可能にする。

提案手法

• V を可変の基数 βi とデジット列 vi を持つミックスド・ラディックス表現でモデル化する。
• H_i を段階 i までのデジット寄与の累積和として定義し、T_i を正規化された残差誤差として定義する。
• 主な結果として、デジットおよび誤差伝播の境界を提供するプロキシ定理 5.1 と系 5.3 を得る。
• すべての導出された境界の正しさを保証するため、HOL Light定理証明器による形式的検証をフレームワークが使用する。
• パラメータ化されたインスタンス化関数が、任意の反復回数 n および所望の小数精度 d に対して境界を生成する。
• 近似誤差が十分に小さいと分かっている状況を定量的に評価することで、オフ・ザ・フライト丸めをサポートする。

実験結果

リサーチクエスチョン

• RQ1 除算および平方根のためのデジットシリアル法において、形式的に検証された汎用的手法でデジットおよび誤差を境界づけることは可能か？
• RQ2 変化する高基数パラメータは、DSMにおけるデジットの大きさおよび近似誤差にどのように影響するか？
• RQ3 DSM近似にオフ・ザ・フライト丸めを安全に適用できる条件は何か？
• RQ4 HOL Lightにおける機械的検証により、導出されたデジットおよび誤差境界の正しさを保証できるか？
• RQ5 この研究で得られた境界は、先行研究における経験的またはヒューリスティックな推定と比べてどう異なるか？

主な発見

• プロキシ定理 5.1 及びその系 5.3 は、パラメータ化された高基数DSMアルゴリズム族におけるデジットおよび誤差の形式的検証済み境界を提供する。
• 独自の基数（i=2でβ=32、i=5でβ=64、それ以外でβ=128）を有する平方根アルゴリズムにおいて、H_7の誤差境界は ≤ 1.050765 / B_7 である。
• HOL Lightに基づくインスタンス化関数により、任意の反復回数 n および所望の小数精度 d に対して境界を自動生成可能である。
• 形式的検証により、導出された境界が先行テーブルの丸められた推定値よりもきめ細かく信頼性が高く、丸めによる差異は最後の桁でのみ生じることが確認された。
• 近似誤差が十分に小さいと分かっている状況を定量的に評価することで、効率的なオフ・ザ・フライト丸めが可能である。
• すべての結果、すなわちインスタンス化関数および境界生成プロセスが、HOL Lightを用いて機械的に検証されており、論理的正しさが保証されている。