[论文解读] The complexity of multiple-precision arithmetic

Richard P. Brent|arXiv (Cornell University)|Apr 21, 2010

Iterative Methods for Nonlinear Equations参考文献 32被引用 31

一句话总结

本文分析了多精度算术运算的计算复杂度，为加法、乘法、除法、开方及超越函数等基本运算确定了单精度运算次数的紧致上下界。研究表明，大多数基本多精度运算与乘法线性等价，并推导出使用可变精度算术求解非线性方程的迭代方法的最优收敛常数，揭示了反二次插值法在实际应用中接近最优。

ABSTRACT

In studying the complexity of iterative processes it is usually assumed that the arithmetic operations of addition, multiplication, and division can be performed in certain constant times. This assumption is invalid if the precision required increases as the computation proceeds. We give upper and lower bounds on the number of single-precision operations required to perform various multiple-precision operations, and deduce some interesting consequences concerning the relative efficiencies of methods for solving nonlinear equations using variable-length multiple-precision arithmetic. A postscript describes more recent developments.

研究动机与目标

• 分析在可变精度下多精度算术运算的计算复杂度。
• 为加法、乘法、除法和开方等基本运算所需单精度运算次数建立紧致的上下界。
• 研究可变精度算术如何影响求解非线性方程的迭代方法的效率。
• 确定各种零点求解方法的渐近收敛常数，并根据精度增长速率的不同确定最优策略。
• 比较求解非线性方程时固定精度与可变精度方法的相对效率，揭示出反直觉的结果。

提出的方法

• 采用多精度算术模型，其中数字以 n 位小数表示，假设采用标准浮点格式且内存受限。
• 使用渐近复杂度分析，用 t_n(B) 表示精度为 n 时运算 B 的最坏情况时间，并定义运算之间的线性可约性和等价性。
• 证明多精度加法、减法和缩放运算彼此线性等价，且与单精度基本运算线性等价。
• 通过已知算法和复杂度界，证明除法、平方和开方计算与乘法线性等价。
• 分析超越函数（exp、log、三角函数等），并证明在标准假设下，它们彼此线性等价，且与乘法线性等价。
• 推导各种零点求解方法的渐近常数 C(α)，并根据精度随迭代次数增长速率 α 确定最优方法。

实验结果

研究问题

• RQ1 多精度加法及相关运算的计算复杂度是多少？它们与单精度运算有何关系？
• RQ2 多精度除法、开方和平方运算是否与乘法线性等价？其复杂度的界限是什么？
• RQ3 初等超越函数（exp、log、sin 等）的复杂度与乘法及彼此之间相比如何？
• RQ4 在使用可变精度算术时，求解非线性方程的迭代方法的最优收敛常数是什么？
• RQ5 当精度随迭代增加时，不同零点求解方法的相对效率如何变化？哪种方法渐近最优？

主要发现

• 多精度加法、减法和缩放运算与单精度运算线性等价，n 位精度下时间复杂度为 O(n)。
• 除法、平方和开方计算与乘法线性等价，复杂度为 O(M(n))，其中 M(n) 是两个 n 位数相乘的时间。
• 在标准假设下，指数函数、对数函数和三角函数等超越函数与乘法线性等价，且彼此之间也线性等价。
• 反二次插值法（I_μ，μ=σ≈0.5436）在 α ≤ 4.6056 时渐近最优，达到最小收敛常数 C_I(α)。
• 当 α > 5.0608 时，最优割线法 S_2 比反插值法更高效；当 α > 8.7143 时，最优离散牛顿法表现最佳。
• 任何定义良好且收敛的多精度方法的渐近常数 C(α) 满足 C(α) ≥ 1，且当 α → ∞ 时该下界是紧致的。