[論文レビュー] Floating point numbers are real numbers

Walter F. Mascarenhas|arXiv (Cornell University)|May 30, 2016

Numerical Methods and Algorithms参考文献 9被引用数 5

ひとこと要約

この論文は、浮動小数点数を実数として扱うことで、連続的数学を用いて浮動小数点演算における丸め誤差のより鋭く単純な境界を導出することを提案する。標準的な誤差モデルを再解釈することで、ハイアムのγₖを線形化されたkuに置き換え、和の丸め誤差に対してより鋭い境界を証明する：|fl(∑xₖ) - ∑xₖ| ≤ nu∑|xₖ|。これは、特に非正規化数サポート下で、従来の結果よりも単純かつ正確である。

ABSTRACT

Floating point arithmetic allows us to use a finite machine, the digital computer, to reach conclusions about models based on continuous mathematics. In this article we work in the other direction, that is, we present examples in which continuous mathematics leads to sharp, simple and new results about the evaluation of sums, square roots and dot products in floating point arithmetic.

研究の動機と目的

• 連続的数学を用いて、既存の浮動小数点演算における誤差境界を単純化・拡張すること。
• 浮動小数点数を実数として扱うことで、より鋭く直感的な誤差境界を導出できることを示すこと。
• 誤差解析においてハイアムのγₖ = ku/(1−ku)を線形化されたkuに置き換えることにより、証明と結果を単純化すること。
• 和の誤差に対して新しい、より鋭い境界を導出すること：|fl(∑xₖ) - ∑xₖ| ≤ nu∑|xₖ|、非正規化数サポート下で有効。
• これらの結果をドット積へと拡張し、ウィルキンソンの境界におけるO(u²)および1.06の係数を排除できることを示すこと。

提案手法

• 浮動小数点数を実数の部分集合として扱い、連続的数学のツールを活用すること。
• 基礎として(1+ε)の議論を用いるが、丸め誤差を実数値の誤差伝播としてモデル化することで、それを精緻化すること。
• 和のための新しい誤差境界を導入：|fl(∑xₖ) - ∑xₖ| ≤ nu∑|xₖ|、これはnuの凹関数から導出される。
• 線形計画法の双対性を用いて、特定の例における最悪ケース誤差状況を検証すること。
• 下位桁数と非非正規化算術のための境界を、誤差モデルを適切に調整することで修正すること。
• 既存の境界（例：ハイアム、ウィルキンソン）を再形式化し、高次項と保守的な係数を除去すること。

実験結果

リサーチクエスチョン

• RQ1 連続的数学を用いて、浮動小数点和の誤差に対してより鋭く単純な境界を導出できるか？
• RQ2 ハイアムのγₖ = ku/(1−ku)を線形化されたku = kuに置き換えても、正当性を失わずに済むか？
• RQ3 n+1個の数の和の浮動小数点評価における相対誤差の最も鋭い境界は何か？
• RQ4 精緻化された誤差モデルにより、ウィルキンソンの境界における1.06の係数を排除できるか？
• RQ5 下位桁数と非正規化数の欠如が、浮動小数点誤差境界の鋭さにどのように影響するか？

主な発見

• 和の誤差に対して新しい、より鋭い境界が証明された：|fl(∑xₖ) - ∑xₖ| ≤ nu∑|xₖ|。これはnuに関して厳密に凹であり、ハイアムのγₖに基づく境界よりも単純である。
• 20nu ≤ 1 かつ 単位丸め誤差uで最近接への丸めが行われる非正規化数を有する算術において、境界|fl(∑xₖ) - ∑xₖ| ≤ nu∑|xₖ|が成立する。
• xₖが非負の場合、より鋭い境界が得られる：|fl(∑xₖ) - ∑xₖ| ≤ u∑ₖ₌₁ⁿ∑ᵢ₌₀ᵏxᵢ。これはuの高次項を回避する。
• ドット積のための新しい境界が確立された：|fl(∑xₖyₖ) - ∑xₖyₖ| ≤ (n+1)u∑|xₖyₖ|、ただし∑|xₖyₖ|が小さすぎない場合に有効。
• 境界(n+1)u∑|xₖyₖ|が、ハイアムの主要項nu|𝐱|ᵀ|𝐲|に等価であることが示されたが、O(u²)の余剰項を含まない。
• 本論文は、提案された連続的数学フレームワークを用いて、ウィルキンソンの境界における1.06の係数とハイアムの解析におけるO(u²)項を、厳密に排除できることを証明した。