[論文レビュー] The complexity of accurate floating point computation

James Demmel|ArXiv.org|May 1, 2003

Numerical Methods and Algorithms参考文献 16被引用数 4

ひとこと要約

本稿は、3つの算術モデル（従来モデル（TM）、長指数モデル（LEM）、短指数モデル（SEM））において、高い精度と多項式時間の効率性を備えた有理式および行列分解の評価のためのきめ細やかな枠組みを導入する。加法的問題（例：3つの数の加算）や構造的行列（例：カウチ行列、バナッハ行列、離散化作用素）の分解は、LEMおよびSEMでは正確かつ効率的に計算可能であるが、TMでは、後者におけるより厳しい誤差境界のため、不可能である。式および小行列式の因数分解可能性が、計算可能性の鍵となる基準である。

ABSTRACT

Our goal is to find accurate and efficient algorithms, when they exist, for evaluating rational expressions containing floating point numbers, and for computing matrix factorizations (like LU and the SVD) of matrices with rational expressions as entries. More precisely, {\em accuracy} means the relative error in the output must be less than one (no matter how tiny the output is), and {\em efficiency} means that the algorithm runs in polynomial time. Our goal is challenging because our accuracy demand is much stricter than usual.

研究の動機と目的

• 厳密な誤差境界の下で、有理式および行列がどれだけ正確かつ効率的に評価可能であるかを特定すること。
• 従来モデル、長指数モデル、短指数モデルの3つの算術モデルを定義し、それらが正確かつ効率的な計算をどの程度サポートできるかを比較すること。
• LU分解やSVDなどの行列分解および有理関数評価が、相対誤差 < 1 かつ多項式時間の複雑さを満たす条件を同定すること。
• TMがLEMおよびSEMよりも厳密に弱いことを確立すること。これは、x+y+zのような計算がTMでは証明的に不可能であるが、他のモデルでは可能であるためである。
• 行列計算の計算可能性が、小行列式および有理式の因数分解可能性にどのように関連するかを結びつけること。

提案手法

• 浮動小数点算術の3つのモデルを用いる：TM（相対誤差δがマシンイプシロンで有界）、LEM（指数部のサイズが無制限）、SEM（分数部のサイズに対して指数部が有界）。
• 精度を、極めて小さな出力に対しても相対誤差が1未満であることを満たすものとして定義し、効率性を入力サイズに関する多項式時間実行として定義する。
• LEMではスパース算術、SEMでは密行列算術を用いて、特に因数分解形で表現された式に対して、大きなまたは小さな数を効率的に表現・計算する。
• 小行列式の分析を通じて、行列計算の精度を有理式評価に還元する。因数分解可能性が保たれる場合にのみラプラス展開を適用する。
• 有理関数の因数分解表現を用いる：r(x) = ∑(p_i(x)^e_i)、ここで各p_iは単項式の和であり、size(r)はこの形のビット複雑度を表す。
• 単項式を正確に計算する多項式時間アルゴリズムを用い、スパース算術でそれらを合算し、標準の丸め演算を用いて乗算・除算を実行することで精度を保証する。

実験結果

リサーチクエスチョン

• RQ1 従来モデル（TM）、長指数モデル（LEM）、短指数モデル（SEM）において、どの有理式が正確かつ効率的に評価可能であるか。
• RQ2 なぜ3つの浮動小数点数の加算 x+y+z は、TMでは正確に計算することが証明的に不可能であるのか。一方、LEMおよびSEMでは可能であるのか。
• RQ3 カウチ行列、バナッハ行列、M行列などの行列の構造的性質は、その小行列式が多項式サイズの因数分解表現で表現可能であるために必要な条件は何か。
• RQ4 LEMとSEMの間には、計算パワーにどのような差があるのか。また、SEMはLEMよりも厳密に強いか。
• RQ5 非対称固有値問題において、すべての固有値を正確に計算可能にする行列の性質は何か。

主な発見

• 従来モデル（TM）は、LEMおよびSEMよりも厳密に弱く、x+y+zの計算ですら、TMでは正確に実行不可能である。一方、他のモデルでは容易に可能である。
• LEMでは、多項式サイズの表現を持つ因数分解形で表現可能な有理関数は、多項式時間で正確かつ効率的に評価可能である。
• LU分解、SVD、行列式計算などの行列計算は、カウチ行列、バナッハ行列、グリーン行列などの構造的行列に対して、その小行列式が多項式サイズの因数分解表現を有する場合、正確かつ効率的に実行可能である。
• 短指数モデル（SEM）は、分数ビットの密表現を可能にし、入力コストにおける指数部サイズを考慮するため、LEMよりも厳密に大きな計算問題のクラスを扱える。
• LEMで正確かつ効率的に計算可能な行列のクラスには、M行列や三重対角行列の逆行列など、多項式サイズの有理式として表現可能な要素を持つ行列が含まれる。
• 本稿では、一般または三重対角行列はLEMでは多項式時間で計算できないが、SEMでは可能であると予想しており、モデル間で計算パワーに厳密な階層が存在することを示唆している。