[논문 리뷰] A Lanczos-Stieltjes method for one-dimensional ridge function approximation and integration

Andrew Glaws, Paul G. Constantine|arXiv (Cornell University)|2018. 08. 06.

Probabilistic and Robust Engineering Design참고 문헌 60인용 수 4

한 줄 요약

이 논문은 반복적인 컨볼루션을 이용해 입력의 선형 조합의 밀도를 추정하고, 랑츠-스틸레티스 반복을 통해 수직 다항식을 구성함으로써 효율적인 일차원 리지 함수 근사 및 적분을 위한 Lanczos-Stieltjes 방법을 제안한다. 이 방법은 전체 차원 접근 방식에 비해 계산 비용을 지수적으로 절감하면서도 높은 정확도를 유지하며, 특히 기능 평가 예산이 제한된 경우에 유리하다.

ABSTRACT

Many of the input-parameter-to-output-quantity-of-interest maps that arise in computational science admit a surprising low-dimensional structure, where the outputs vary primarily along a handful of directions in the high-dimensional input space. This type of structure is well modeled by a ridge function, which is a composition of a low-dimensional linear transformation with a nonlinear function. If the goal is to compute statistics of the output (e.g., as in uncertainty quantification or robust design) then one should exploit this low-dimensional structure, when present, to accelerate computations. We develop Gaussian quadrature and the associated polynomial approximation for one-dimensional ridge functions. The key elements of our method are (i) approximating the univariate density of the given linear combination of inputs by repeated convolutions and (ii) a Lanczos-Stieltjes method for constructing orthogonal polynomials and Gaussian quadrature.

연구 동기 및 목표

• 입력-출력 맵에서 저차원 리지 구조를 활용하여 고차원 적분의 차원의 극복 문제를 해결한다.
• 기능 평가 비용을 줄이면서도 정확도를 유지하는 일차원 리지 함수를 위한 가우시안 구적법 기반 방법을 개발한다.
• 비용이 많이 들지만 실제 과학 계산에서 흔한 고비용 시뮬레이션에 적용 가능한, 근사적으로 리지 함수로 표현 가능한 함수들로의 방법 확장을 제공한다.
• 최소한의 기능 평가를 사용하여 리지 함수의 적분 및 다항식 근사를 효율적이고 수치적으로 안정적인 알고리즘으로 계산한다.

제안 방법

• 입력 밀도의 반복적 컨볼루션을 이용해 선형 조합 $ u = oldsymbol{a}^T oldsymbol{x} $ 의 단변수 밀도를 근사함으로써 정확한 구적법 구성이 가능해진다.
• 유도된 조건부 측도에 대해 리지 변수 $ u $ 에 대해 랑츠-스틸레티스 알고리즘을 적용하여 수직 다항식과 관련된 가우시안 구적법 규칙을 생성한다.
• 결과로 얻은 구적법 노드와 가중치를 사용하여 리지 프로파일 $ g(u) $ 의 다항식 근사를 구성함으로써 정확한 적분 및 함수 근사가 가능해진다.
• 거의 리지 함수에 대해 두 수준의 근사를 사용하여 방법을 확장한다: 먼저 입력 밀도 $ q(u) $ 를 근사하고, 그 다음 랑츠 반복을 적용하여 다항식 대체 모델을 구축한다.
• 쉐이드 플롯과 $ L^2 $ 오차 분석을 사용하여 리지 근사의 품질을 검증하고 최적의 다항식 차수를 결정한다.
• 희소 격자 유사 규칙의 중첩 구조와 랑츠 반복의 계층적 정밀화를 활용하여 수렴 분석 및 적응적 정밀화를 가능하게 한다.

실험 결과

연구 질문

• RQ1 최소한의 기능 평가로 일차원 리지 함수에 대해 가우시안 구적법 규칙을 효과적으로 구성하기 위해 Lanczos-Stieltjes 방법을 어떻게 적응시킬 수 있는가?
• RQ2 제한된 계산 예산 하에서 일차원 리지 근사의 정확도가 전체 차원 다항식 근사에 비해 어떻게 비교되는가?
• RQ3 고차원 입력-출력 맵에서 저차원 구조를 얼마나 효과적으로 활용하여 적분 비용을 줄일 수 있는가?
• RQ4 컨볼루션을 통해 유도된 밀도 $ q(u) $ 를 근사하는 것이 결과로 얻는 구적법 및 다항식 근사의 정확도에 어떤 영향을 미치는가?
• RQ5 함수가 정확히 리지 함수는 아니지만 근사적으로 리지 함수인 경우, 이 방법은 얼마나 잘 작동하는가?

주요 결과

• Lanczos-Stieltjes 방법을 사용한 일차원 리지 근사는 매우 적은 기능 평가로 최적의 성능를 달성하며, 제한된 예산 하에서 전체 차원 근사보다 뛰어난 성능을 보인다.
• 리지 근사의 $ L^2 $ 오차는 약 $ 1.29 imes 10^{-2} $ 에서 수평선을 이루며, 리지 구조가 정확하지 않기 때문에 근사 정확도의 한계를 나타낸다.
• 특히 함수가 강한 리지 구조를 띠는 경우, 전체 차원 적분에 비해 계산 비용을 지수적으로 절감할 수 있다.
• 거의 리지 함수로의 확장은 효과적이다: 알고리즘이 최소한의 기능 평가로 인한 리지 근사 오차의 본질적 한계에 신속히 접근한다.
• 쉐이드 플롯과 오차 분석을 통해 고차원 입력일지라도 리지 방향의 기능적 행동을 정확히 포착하고 있음을 확인할 수 있다.
• 식 (57) 에서 보듯이, 각 리지 성분에 대해 이 방법을 적용하고 결과를 합산함으로써 프로젝션 퍼즈리gression 모델의 정확한 적분이 가능해진다.