[논문 리뷰] The complexity of multiple-precision arithmetic

Richard P. Brent|arXiv (Cornell University)|2010. 04. 21.

Iterative Methods for Nonlinear Equations참고 문헌 32인용 수 31

한 줄 요약

이 논문은 다중 정밀도 산술 연산의 계산 복잡도를 분석하여 덧셈, 곱셈, 나눗셈, 제곱근, 초월 함수에 대해 필요한 단일 정밀도 연산 수에 대한 날카운 상한과 하한을 확립한다. 대부분의 기본 다중 정밀도 연산이 곱셈과 선형적으로 등가임을 보이며, 변수 정밀도 산술을 사용한 비선형 방정식의 반복적 해법에 대해 최적의 수렴 상수를 유도한다. 이는 실용적인 목적에서 역제곱 보간법이 거의 최적임을 드러낸다.

ABSTRACT

In studying the complexity of iterative processes it is usually assumed that the arithmetic operations of addition, multiplication, and division can be performed in certain constant times. This assumption is invalid if the precision required increases as the computation proceeds. We give upper and lower bounds on the number of single-precision operations required to perform various multiple-precision operations, and deduce some interesting consequences concerning the relative efficiencies of methods for solving nonlinear equations using variable-length multiple-precision arithmetic. A postscript describes more recent developments.

연구 동기 및 목표

• 변수 정밀도 하에서 다중 정밀도 산술 연산의 계산 복잡도를 분석하는 것.
• 덧셈, 곱셈, 나눗셈, 제곱근과 같은 기본 연산에 대해 필요한 단일 정밀도 연산 수에 대한 날카운 상한과 하한을 확립하는 것.
• 변수 정밀도 산술이 비선형 방정식을 풀이하는 반복적 방법의 효율성에 미치는 영향을 조사하는 것.
• 다양한 영점 찾기 방법의 점근적 수렴 상수를 결정하고, 정밀도 증가율 α에 따라 최적의 전략을 특정하는 것.
• 비선형 방정식을 풀이할 때 고정 정밀도와 변수 정밀도 방법의 상대적 효율성을 비교하여 놀라운 결과를 드러내는 것.

제안 방법

• 숫자가 분수 부분에 n 비트를 사용하여 표현되는 다중 정밀도 산술 모델을 사용하며, 표준 부동소수점 형식과 제한된 메모리 조건을 가정한다.
• 시간 복잡도의 점근적 분석을 위해 정밀도 n일 때 연산 B의 최악의 경우 시간을 t_n(B)로 표기하고, 연산 간의 선형 감소 가능성과 등가성 정의를 사용한다.
• 다중 정밀도 덧셈, 뺄셈, 스케일링이 상호 선형적으로 등가이며, 단일 정밀도 수치 연산과도 선형적으로 등가임을 증명한다.
• 나눗셈, 제곱, 제곱근 계산이 알려진 알고리즘과 복잡도 한계를 사용하여 곱셈과 선형적으로 등가임을 보인다.
• 초월 함수(지수, 로그, 삼각함수 등)를 분석하고, 표준 가정 하에서 곱셈과 선형적으로 등가이며 상호 등가임을 보인다.
• 다양한 영점 찾기 방법에 대해 점근적 상수 C(α)를 유도하고, 정밀도가 반복 횟수에 따라 증가하는 비율 α에 따라 최적의 방법을 특정한다.

실험 결과

연구 질문

• RQ1 다중 정밀도 덧셈 및 관련 연산의 계산 복잡도는 무엇이며, 단일 정밀도 연산과의 관계는 어떠한가?
• RQ2 다중 정밀도 나눗셈, 제곱근, 제곱 연산이 곱셈과 선형적으로 등가인가? 그 복잡도의 범위는 무엇인가?
• RQ3 지수, 로그, sin 등 기본 초월 함수의 복잡도는 곱셈과 상호 비교하여 어떻게 되는가?
• RQ4 변수 정밀도 산술을 사용할 때 비선형 방정식을 풀이하는 반복적 방법의 최적 수렴 상수는 무엇인가?
• RQ5 정밀도가 반복 횟수와 함께 증가할 때, 다양한 영점 찾기 방법의 상대적 효율성은 어떻게 변화하며, 어떤 방법이 점근적으로 최적인가?

주요 결과

• 다중 정밀도 덧셈, 뺄셈, 스케일링은 단일 정밀도 연산과 선형적으로 등가이며, n비트 정밀도에서 O(n) 시간이 소요된다.
• 나눗셈, 제곱, 제곱근 계산은 곱셈과 선형적으로 등가이며, 복잡도가 M(n)으로 표현되며, M(n)은 두 개의 n비트 수를 곱하는 데 걸리는 시간이다.
• 지수, 로그, 삼각함수 등 초월 함수는 표준 가정 하에서 곱셈과 선형적으로 등가이며 상호 등가이다.
• 역제곱 보간법(I_μ, μ=σ≈0.5436)은 α ≤ 4.6056일 때 점근적으로 최적이며, 최소 수렴 상수 C_I(α)를 달성한다.
• α > 5.0608일 경우 최적의 세컨트 방법 S_2가 역보간법보다 더 효율적이며, α > 8.7143일 경우 최적의 이산 뉴턴 방법이 가장 우수하다.
• 어떤 잘 정의되고 수렴하는 다중 정밀도 방법에 대해서도 점근적 상수 C(α)는 C(α) ≥ 1을 만족하며, α → ∞일 때 이 경계는 날카로운 것이다.