[논문 리뷰] Optimizing polynomials for floating-point implementation

Florent de Dinechin, Christoph Lauter|ArXiv.org|2008. 03. 04.

Numerical Methods and Algorithms참고 문헌 19인용 수 5

한 줄 요약

이 논문은 소수점 구현을 위한 다항식 근사에서 작은 계수를 0으로 강제함으로써 계산 비용과 수치적 상쇄를 줄이기 위해 수정된 Remez 알고리즘을 제안한다. 이 방법은 블랙박스 함수 인터페이스를 사용하며, 일부 단항식을 제외한 불완전한 단항식 기저를 대상으로 하여 표준 minimax 근사보다 더 효율적이고 수치적으로 안정적인 다항식을 도출한다.

ABSTRACT

The floating-point implementation of a function on an interval often reduces to polynomial approximation, the polynomial being typically provided by Remez algorithm. However, the floating-point evaluation of a Remez polynomial sometimes leads to catastrophic cancellations. This happens when some of the polynomial coefficients are very small in magnitude with respects to others. In this case, it is better to force these coefficients to zero, which also reduces the operation count. This technique, classically used for odd or even functions, may be generalized to a much larger class of functions. An algorithm is presented that forces to zero the smaller coefficients of the initial polynomial thanks to a modified Remez algorithm targeting an incomplete monomial basis. One advantage of this technique is that it is purely numerical, the function being used as a numerical black box. This algorithm is implemented within a larger polynomial implementation tool that is demonstrated on a range of examples, resulting in polynomials with less coefficients than those obtained the usual way.

연구 동기 및 목표

• 큰 계수 크기의 격차로 인한 소수점 다항식 평가에서의 수치적 불안정성 문제를 해결하기 위해.
• 소수점 평가에서의 연산 수를 줄이기 위해 작은 또는 무시할 만한 계수를 제거하기 위해.
• 기본 함수의 대칭성 기반 계수 제거(예: 홀함수/짝함수)를 더 넓은 범위의 함수로 일반화하기 위해, 분석적 대칭성 지식이 필요하지 않도록 하기 위해.
• 기호 변환 없이도 기능을 블랙박스로 제공하는 순수 수치적 방법을 개발하기 위해.
• 소수점 산술에서 다항식 기반 기본 함수 구현의 실용성과 정확도를 향상시키기 위해.

제안 방법

• 일부 단항식이 제외된(즉, 계수가 0으로 강제된) 불완전한 단항식 기저에서 오차를 최소화하도록 Remez 알고리즘을 변형한다.
• 대상 함수를 블랙박스로 간주하는 수치적 접근을 사용하며, 기능 평가와 도함수 접근만 요구한다.
• 선택된 단항식이 기저에 포함되지 않은 상황을 고려한 수정된 오차 최소화 기준을 적용하여 제약 조건 하에 최적의 근사가 이루어지도록 보장한다.
• 평가를 위해 호너의 방법을 사용하고, 평가 중 잠재적인 상쇄를 분석하여 계수 제거를 안내한다.
• 평가 오차를 제한하고 정확성을 확보하기 위해 더블더블 및 트리플더블 산술과 통합한다.
• 오차 한계 분석과 역에러 함수 및 기본 함수와 같은 함수에 대한 실증적 테스트를 통해 결과를 검증한다.

실험 결과

연구 질문

• RQ1 다항식 근사에서 계수 제거가 소수점 평가에서 계산 비용과 수치적 상쇄를 모두 줄일 수 있는가?
• RQ2 일부 계수가 수치적으로 무시할 만큼 미미한 경우, 소수점 구현을 위한 최소최대 다항식은 어떻게 최적화될 수 있는가?
• RQ3 홀함수/짝함수를 초월해 대칭 기반 계수 제거를 얼마나 넓게 일반화할 수 있는가?
• RQ4 기호 분석 없이도 순수 수치적 알고리즘이 다항식 근사에서 작은 계수를 효과적으로 식별하고 제거할 수 있는가?
• RQ5 제안된 방법은 표준 minimax 또는 타일러 기반 근사와 비교해 정확도와 효율성 면에서 어떻게 다른가?

주요 결과

• 알고리즘이 다항식 근사에서 작은 계수를 성공적으로 식별하고 제거하여 항의 수를 줄이고 수치적 안정성을 향상시켰다.
• 상대 오차 한계가 2^-60인 [-1/4, 1/4] 범위의 역에러 함수에 대해, 19차 홀수 다항식(오직 홀수 차수 항만 포함)을 생성하여 오차를 2^-62.9로 달성했다.
• 더블더블 산술로 계산된 다항식의 평가 오차는 2^-62.4 이내로 제한되어 높은 정확도를 입증했다.
• 함수를 블랙박스로 취급함에도 불구하고, 홀함수에 적합한 단항식 기저(예: 홀수 거듭제곱)를 자동으로 선택함으로써 대칭성에 대한 사전 지식 없이도 효과적으로 작동했다.
• 계수 크기의 과도한 격차를 방지함으로써 연산 수를 줄이고 상쇄를 피함으로써 소수점 산술에서 성능과 신뢰성을 향상시켰다.
• 이 알고리즘은 Sollya와 같은 도구에 성공적으로 통합되었으며, CRLibm 라이브러리에서 함수를 구현하는 데도 활용되어 실용적 유용성을 입증했다.