[논문 리뷰] Digit Serial Methods with Applications to Division and Square Root (with mechanically checked correctness proofs)

Warren E. Ferguson, Jesse Bingham외 3명|arXiv (Cornell University)|2017. 08. 01.

Numerical Methods and Algorithms참고 문헌 11인용 수 4

한 줄 요약

이 논문은 고기수 나눗셈 및 제곱근 알고리즘에서 디지트 시리얼 방법(DSM)을 분석하기 위한 일반적인 형식적 방법을 제시하며, 디지트 값과 근사 오차에 대한 날카로운 경계를 도출한다. 기계적 검증을 통해 HOL Light에서 수행된 증명을 통해 이러한 경계가 효율적인 온더플라이 라운딩과 신호 폭 결정을 가능하게 하며, 파rameterized 알고리즘에 대해 검증된 결과를 제공한다.

ABSTRACT

We present a generic digit serial method (DSM) to compute the digits of a real number $V$ . Bounds on these digits, and on the errors in the associated estimates of $V$ formed from these digits, are derived. To illustrate our results, we derive such bounds for a parameterized family of high-radix algorithms for division and square root. These bounds enable a DSM designer to determine, for example, whether a given choice of parameters allows rapid formation and rounding of its approximation to $V$. All our claims are mechanically verified using the HOL-Light theorem prover, and are included in the appendix with commentary.

연구 동기 및 목표

• 실수 V의 디지트를 순차적으로 계산하는 디지트 시리얼 방법(DSM)을 분석하기 위한 일반적인 프레임워크를 개발하기 위해.
• DSM에서 디지트 크기와 근사 오차에 대한 정밀한 경계를 도출하여 효율적인 하드웨어 설계를 가능하게 하기 위해.
• 이 프레임워크를 고기수 나눗셈 및 제곱근 알고리즘의 파rameterized 가족에 적용하기 위해.
• HOL Light 정리 증명기로 모든 경계와 알고리즘적 주장의 형식적 검증을 수행하기 위해.
• 근사 오차와 디지트 행동을 정량화하여, DSM 근사치에 대한 신속하고 정확한 온더플라이 라운딩을 가능하게 하기 위해.

제안 방법

• V를 가변 기수 βi와 디지트 시퀀스 vi를 갖는 혼합 기수 표현으로 모델링한다.
• H_i를 단계 i까지의 디지트 기여의 누적 합으로 정의하고, T_i를 정규화된 잔여 오차로 정의한다.
• 핵심 결과로는 디지트 및 오차 전파에 대한 경계를 제공하는 Proxy 정리 5.1과 그 추론 5.3이 포함되어 있다.
• 모든 유도된 경계의 정확성을 보장하기 위해 HOL Light 정리 증명기를 통한 형식적 검증을 사용한다.
• 파rameterized 인스턴시에이션 함수는 임의의 반복 수 n과 원하는 소수 정밀도 d에 대해 경계를 생성한다.
• 근사 오차가 충분히 작아질 때를 정량화함으로써, 온더플라이 라운딩을 지원한다.

실험 결과

연구 질문

• RQ1 나눗셈 및 제곱근 알고리즘에 대한 디지트 시리얼 알고리즘의 디지트와 오차를 봉인하는 일반적이고 형식적으로 검증된 방법이 가능한가?
• RQ2 다양한 고기수 파ram터는 DSM에서 디지트 크기와 근사 오차에 어떤 영향을 미치는가?
• RQ3 DSM 근사치에 대해 온더플라이 라운딩을 안전하게 적용할 수 있는 조건은 무엇인가?
• RQ4 HOL Light에서의 기계적 검증이 유도된 디지트 및 오차 경계의 정확성을 보장할 수 있는가?
• RQ5 유도된 경계는 기존 문헌에서의 경험적 또는 히우리스틱 추정치와 어떻게 비교되는가?

주요 결과

• Proxy 정리 5.1과 그 추론 5.3는 파rameterized 고기수 DSM 알고리즘 가족에 대해 형식적으로 검증된 디지트 및 오차 경계를 제공한다.
• 특수 기수(예: i=2일 때 β=32, i=5일 때 β=64, 나머지 경우 β=128)를 갖는 제곱근 알고리즘에 대해, H_7의 오차 경계는 ≤ 1.050765 / B_7이다.
• HOL Light 기반의 인스턴시에이션 함수를 통해, 임의의 반복 수 n과 원하는 소수 정밀도 d에 대해 경계를 자동 생성할 수 있다.
• 형식적 검증을 통해, 유도된 경계가 이전 표에서의 반올림 추정치보다 더 날카롭고 신뢰할 수 있음을 확인하였으며, 오직 반올림으로 인한 마지막 자릿수의 차이만 존재한다.
• 근사 오차가 충분히 작아질 때를 정량화함으로써, 효율적인 온더플라이 라운딩을 지원한다.
• 모든 결과, 즉 인스턴시에이션 함수와 경계 생성 과정이 모두 HOL Light를 통해 기계적으로 검증되어 논리적 정확성이 보장된다.