[논문 리뷰] The complexity of accurate floating point computation

James Demmel|ArXiv.org|2003. 05. 01.

Numerical Methods and Algorithms참고 문헌 16인용 수 4

한 줄 요약

이 논문은 세 가지 산술 모델인 전통 모델(TM), 장지수 모델(LEM), 단지수 모델(SEM)에서 유리식과 행렬 분해를 높은 정확도와 다항시간 효율성으로 평가하기 위한 엄밀한 프레임워크를 제안한다. 문제들, 예를 들어 세 수의 덧셈이나 구조적 행렬(예: 카우치, 바르데모인, 이산화된 연산자)의 분해는 LEM과 SEM에서는 정확하고 효율적으로 계산될 수 있지만, TM에서는 엄격한 오차 한계로 인해 불가능하다. 이는 식과 소수의 인수분해 가능성이 타당성의 핵심 기준이 된다.

ABSTRACT

Our goal is to find accurate and efficient algorithms, when they exist, for evaluating rational expressions containing floating point numbers, and for computing matrix factorizations (like LU and the SVD) of matrices with rational expressions as entries. More precisely, {\em accuracy} means the relative error in the output must be less than one (no matter how tiny the output is), and {\em efficiency} means that the algorithm runs in polynomial time. Our goal is challenging because our accuracy demand is much stricter than usual.

연구 동기 및 목표

• строго한 오차 한계 하에서 정확하고 효율적으로 평가 가능한 유리식과 행렬을 규명하는 것.
• 정확하고 효율적인 계산을 지원하는 능력에 기반해 전통 모델, 장지수 모델, 단지수 모델을 정의하고 비교하는 것.
• LU, SVD 등 행렬 분해와 유리함수 평가가 상대 오차 < 1 이하로 정확하고 다항시간 복잡도를 갖는 조건을 규명하는 것.
• TM이 LEM과 SEM보다 엄격히 열등하다는 것을 입증하는 것. 예를 들어 x+y+z 계산은 TM에서는 증명적으로 불가능하지만 LEM과 SEM에서는 가능하다는 점.
• 행렬 계산의 타당성과 소수 및 유리식의 인수분해 가능성 간의 관계를 설정하는 것.

제안 방법

• 세 가지 부동소수점 산술 모델을 사용: TM은 상대 오차 δ가 머신 에psilon으로 유한한 경계를 가지며, LEM은 지수 크기가 무한정이며, SEM은 분수 크기에 상대적으로 유한한 지수 크기를 가짐.
• 정확도는 조그만 출력값이라도 상대 오차가 1 미만이 되는 것으로 정의하고, 효율성은 입력 크기의 다항시간 내 수행으로 정의함.
• LEM에서는 희소 산술을, SEM에서는 조밀 산술을 사용하여 큰 또는 작은 수를 효율적으로 표현하고 계산함. 특히 인수분해된 형태의 식에 유리함.
• 소수 분석을 통해 행렬 계산의 정확도를 유리식 평가로 환원함. 인수분해가 유지될 경우에만 라플라스 전개를 적용함.
• 유리함수의 인수분해 표현을 사용: r(x) = ∑(p_i(x)^e_i), 여기서 각 p_i는 단항식의 합이며, size(r)는 이 형태의 비트 복잡도로 정의됨.
• 단항식을 정확하게 계산하는 다항시간 알고리즘을 적용하고, 희소 산술을 통해 덧셈을 수행하며, 곱셈/나눗셈은 표준 반올림 연산을 사용해 정확도를 확보함.

실험 결과

연구 질문

• RQ1 전통 모델(TM), 장지수 모델(LEM), 단지수 모델(SEM)에서 어떤 유리식이 정확하고 효율적으로 평가될 수 있는가?
• RQ2 세 개의 부동소수점 수 x+y+z의 덧셈은 왜 TM에서는 정확하게 계산하는 것이 증명적으로 불가능한가? 그러나 LEM과 SEM에서는 가능하다.
• RQ3 카우치, 바르데모인, M-행렬 등 행렬의 구조적 특성은 무엇인가? 이들의 소수를 다항식 크기의 인수분해 표현으로 나타내는 데 기여하는가?
• RQ4 LEM과 SEM은 어떤 점에서 다르며, SEM은 LEM보다 엄격히 강력한가? 즉, 해결 가능한 문제의 범위에서 더 넓은가?
• RQ5 어떤 행렬 성질이 비대칭 고유값 문제에서 모든 고유값을 정확하게 계산할 수 있도록 보장하는가?

주요 결과

• 전통 모델(TM)은 LEM과 SEM보다 엄격히 열등하다. x+y+z 계산은 TM에서는 정확하게 수행할 수 없지만, 다른 두 모델에서는 간단히 가능하다.
• LEM에서는 다항식 크기의 인수분해 표현을 가진 유리함수는 정확하고 효율적으로 다항시간 내에 평가될 수 있다.
• LU, SVD, 행렬식 계산과 같은 행렬 계산은 카우치, 바르데모인, 그린의 행렬 등 구조적 행렬의 소수가 다항식 크기의 인수분해 표현을 가질 경우 정확하고 효율적으로 수행될 수 있다.
• 단지수 모델(SEM)은 LEM보다 더 큰 계산 문제의 클래스를 지원한다. 특히 분수 비트의 조밀한 표현을 허용하고, 입력 비용에 지수 크기를 반영하기 때문이다.
• LEM에서 정확하고 효율적으로 계산 가능한 행렬의 클래스에는 다항식 크기의 유리식을 원소로 가지는 행렬이 포함되며, M-행렬이나 삼중대각 행렬의 역행렬 등이 포함된다.
• 논문은 일반 행렬이나 삼중대각 행렬은 LEM에서 다항시간 내에 계산 가능하지 않다고 추측하지만, SEM에서는 가능하다고 제기하며, 이는 세 모델 간의 계산 능력에 엄격한 계층이 존재함을 시사한다.