[논문 리뷰] Quadratic Zonotopes - An Extension of Zonotopes to Quadratic Arithmetics

Assalé Adjé, Pierre-Loïc Garoche외 1명|arXiv (Cornell University)|2015. 11. 01.

Numerical Methods and Algorithms인용 수 4

한 줄 요약

이 논문은 정적 분석에서 부동소수점 연산의 정밀도를 향상시키기 위해 이차 오차 항(ǫiǫj)을 포함하는 이차 조노토프(Quadratic Zonotopes)를 소개한다. 이는 애핀 조노토프의 확장으로서, 준정방형계획(SDP)을 활용한 간격 투영을 통해 간격이나 애핀 조노토프보다 더 날카운 간격 추정을 달성하며, 특히 곱셈 및 초월함수와 같은 비선형 함수에서 뛰어난 성능을 보인다. 이 방법은 오차 항의 수에 대해 이차 복잡도를 유지한다.

ABSTRACT

Affine forms are a common way to represent convex sets of $\mathbb{R}$ using a base of error terms $\epsilon \in [-1, 1]^m$. Quadratic forms are an extension of affine forms enabling the use of quadratic error terms $\epsilon_i \epsilon_j$. In static analysis, the zonotope domain, a relational abstract domain based on affine forms has been used in a wide set of settings, e.g. set-based simulation for hybrid systems, or floating point analysis, providing relational abstraction of functions with a cost linear in the number of errors terms. In this paper, we propose a quadratic version of zonotopes. We also present a new algorithm based on semi-definite programming to project a quadratic zonotope, and therefore quadratic forms, to intervals. All presented material has been implemented and applied on representative examples.

연구 동기 및 목표

• 비선형 부동소수점 연산에서 더 높은 정밀도를 확보하기 위해 조노토픽 추상 도메인을 이차 산술을 다룰 수 있도록 확장하는 것.
• 이차 형식의 간격 초과근사값을 더 날카롭게 계산하기 위해 준정방형계획(SDP) 기반의 투영 알고리즘을 개발하는 것.
• 대표적인 벤치마크(초월함수 및 반복 함수 포함)에서 표준 추상 도메인인 간격과 애핀 조노토프와의 비교를 통해 신규 도메인의 성능을 평가하는 것.
• 이차 조노토프가 정밀도는 높이고 계산 복잡도는 관리 가능한 수준을 유지함으로써 애핀 및 간격 추상화를 능가함을 입증하는 것.
• 이차 조노토프가 음수 오차 항의 곱을 포함하는 성질을 모델링하는 데 적합한 비볼록, 비대칭 대수적 도메인으로서의 잠재력을 탐색하는 것.

제안 방법

• 이차 형식을 기반으로 한 이차 조노토프 도메인을 제안하며, 이는 애핀 형식을 확장하여 ǫiǫj 항과 추가 오차 기호 ǫ⁺, ǫ⁻, ǫ±를 포함한다.
• 이차 형식의 구체화를 오차 공간 Cm에 대한 형식의 이미지로 정의하며, 도메인 내에서 최소/최대값을 구해 간격 범위를 산출한다.
• 절대값과 부호 인식 기반의 경계를 활용한 안전한 초과근사값(MT 방법)과, 준정방형계획(SDP) 솔버를 활용한 더 날카운 대안을 제안한다.
• 오차 항의 수에 대해 이차 복잡도를 유지하는 산술 연산자(덧셈, 부정, 스칼라 곱셈, 곱셈)를 개발한다.
• 간격에서 이차 형식으로의 역추상화 맵을 구현하여 추상 해석 프레임워크에 통합 가능하게 한다.
• APRON 라이브러리에 도메인을 통합하고, 정밀한 간격 투영을 위해 SDP 솔버(CSDP, Mosek)를 사용하며, 성능 비용을 관리하기 위해 선택적 활성화 기능을 제공한다.

실험 결과

연구 질문

• RQ1 비선형 함수(예: 곱셈 및 초월함수)에 대해 이차 조노토프가 애핀 조노토프나 간격보다 유의미하게 날카운 간격 초과근사값을 제공할 수 있는가?
• RQ2 더 높은 계산 비용에도 불구하고, 간격 투영에 준정방형계획(SDP)을 사용할 경우 표준 MT 초과근사 방법에 비해 정밀도 향상이 실제로 발생하는가?
• RQ3 루프와 조건 분기 포함 벤치마크에서 이차 조노토프 도메인은 T1P 도메인(선형 제약 조건이 적용된 애핀 조노토프)과 비교해 정밀도와 성능 면에서 어떻게 다른가?
• RQ4 이차 조노토프의 기하학적 구체화가 비볼록이고 비대칭인가? 이러한 성질이 음수 오차 항의 곱을 포함하는 특정 프로그램 동작(예: 부호에 의존하는 오차 전파)을 더 잘 모델링할 수 있는가?
• RQ5 이차 조노토프는 타원형 추상화의 두 번째 차수 추상화로 실용적으로 활용될 수 있는가? 또한 브랜치 앤 바운드와 같은 정밀도 향상 기법과의 통합 가능성은 어떠한가?

주요 결과

• 입력 x ∈ [-1, 1]인 arctan 함수에 대해 이차 조노토프는 [-1.002866, 1.002866]의 간격을 도출하며, 간격 및 애핀 조노토프의 [-1.919149, 1.919149]와는 상당히 날카롭게 개선되었고, 애핀 제약 조건이 적용된 조노토프의 [-1.349407, 1.349407]보다도 더 낫다.
• 동일한 함수에 대해 x ∈ [-10, 10]일 경우 이차 조노토프는 [-1.597501, 1.591769]의 간격을 달성하며, 간격 및 애핀 조노토프를 능가하고 T1P 도메인의 정밀도에 가까워진다.
• A ∈ [16, 20]인 1/√A에 대한 하우스홀더 반복 계산에서 이차 조노토프는 간격, 애핀 조노토프, 심지어 T1P 도메인보다도 더 뛰어난 수렴 성능과 낮은 전반적 오차를 보였다. 특히 반복 횟수가 증가할수록 두드러진 성능 향상이 관찰되었다.
• SDP 기반 투영 방법은 MT 방법보다 더 날카운 초과근사값을 제공하지만 계산 비용이 더 높다. 그러나 선택적 활성화를 통해 정밀도와 성능의 균형을 조절할 수 있다.
• SDP 기반의 구체화 비용이 높음에도 불구하고, 이 방법은 실질적으로 잘 스케일링되며 특히 다항식 및 비선형 계산에 매우 효과적이다.
• 이차 조노토프 도메인은 비선형 연산에서 애핀 조노토프 및 간격보다 더 높은 정밀도를 보이며, 비볼록이고 비대칭인 구체화 성질 덕분에 음수 오차 항의 곱을 포함하는 고급 성질을 모델링하는 데 유리할 수 있다.