[논문 리뷰] Laplace approximation with estimated error and application to probability

Vassili N. Kolokoltsov, Tomasz M. Łapiński|arXiv (Cornell University)|2015. 02. 11.

Probabilistic and Robust Engineering Design참고 문헌 5인용 수 4

한 줄 요약

이 논문은 지수 함수의 최대값이 정의역의 내부 또는 경계에 위치할 경우에 대해 수렴 속도를 추정하는 다차원 라플라스 근사법을 개발한다. 이 방법을 사용하여 정규화된 라플라스 적분으로 정의된 랜덤 벡터에 대해 두 개의 점근 정리—대수법칙과 중심극한정리—를 도출한다. 각각의 경우에서의 극한 분포는 서로 다를 것으로 나타나며, 내부 최대의 경우는 정규분포이고, 경계 최대의 경우는 지수-정규분포 혼합형이다.

ABSTRACT

In this paper Multidimensional Laplace approximation with the estimated rate of convergence is developed. We consider two cases of maximum, in the interior of the domain and on the boundary. Additionally, the function in the exponent and its maximum point is dependent on the integral ’large’ parameter. The probabilistic application is included and it is in the form of two limit theorems for the random vector whose values are defined as the coordinates of points within the domain of Laplace integral. The pdf is constructed by considering Laplace integral with domain of integration being the event set and normalizing with integral over whole domain. The first probabilistic result is Law of Large Numbers and the second is Central Limit Theorem. The second result is different for two cases of maximum of function in Laplace integral. When it is in the interior of the domain we obtain Gaussian distribution. For the boundary maximum we obtain exponential in one direction and Gaussian in other directions. The proofs are based on the developed in the paper Laplace approximation and additional, rather standard estimated were necessary.

연구 동기 및 목표

• 큰 매개변수를 포함하는 적분에 대해 수렴 속도를 정량화한 다차원 라플라스 근사법을 개발하는 것.
• 지수 함수의 최대값이 정의역의 내부 또는 경계에 위치할 경우 라플라스 적분의 행동을 분석하는 것.
• 정의역 이벤트 위에서 정규화된 라플라스 적분으로부터 유도된 랜덤 벡터에 대한 확률론적 점근 정리 수립.
• 확률론적 응용에 필수적인 라플라스 근사의 오차에 대한 엄밀한 추정을 제공하는 것.
• 내부 최대와 경계 최대의 경우를 구분하여 정규화된 랜덤 벡터의 극한 분포를 특성화하는 것.

제안 방법

• 지수에 큰 매개변수를 포함하는 적분에 대해 명시적인 오차 한계를 갖는 다차원 라플라스 근사법을 유도한다.
• 두 가지 경우를 고려한다: 지수 함수의 최대값이 적분 정의역의 내부 점에 위치할 경우와 경계 점에 위치할 경우.
• 지수 함수의 최대점 주위에서 전개함으로써 라플라스 방법을 사용해 적분을 근사한다.
• 정규화된 적분을 통해 정의역의 부분집합 위에서 확률 밀도 함수를 구성하기 위해 근사법을 적용한다.
• 표준 渐近 기법과 오차 추정치를 활용해 정규화된 랜덤 벡터의 수렴성을 증명한다.
• 내부 최대와 경계 최대를 구분하여 극한 분포를 분석함으로써 서로 다른 점근 형태를 이끌어낸다.

실험 결과

연구 질문

• RQ1 지수 함수의 최대값이 정의역의 내부에 위치할 경우, 다차원 라플라스 근사의 수렴 속도를 어떻게 추정할 수 있는가?
• RQ2 지수 함수의 최대값이 적분 정의역의 경계에 위치할 경우, 라플라스 근사의 행동은 어떻게 되는가?
• RQ3 정규화된 랜덤 벡터의 극한 분포는 내부 최대와 경계 최대의 경우에 어떻게 다를까?
• RQ4 이러한 정규화된 랜덤 벡터의 극한 분포는 정확히 어떤 점근 분포(예: 정규분포 또는 지수-정규분포 혼합형)를 보이는가?
• RQ5 확률론적 설정에서 라플라스 근사의 수렴성을 엄밀히 확보하기 위해 필요한 오차 추정치는 무엇인가?

주요 결과

• 큰 매개변수를 포함하는 다차원 적분에 대해 명시적인 오차 추정치를 갖는 라플라스 근사법이 개발되어, 수렴 분석에 있어 엄밀한 분석이 가능해졌다.
• 지수 함수의 최대값이 정의역의 내부에 위치할 경우, 정규화된 랜덤 벡터의 극한 분포는 다변량 정규분포이다.
• 최대값이 경계에 위치할 경우, 극한 분포는 경계에 수직인 방향으로 지수분포를, 탄성 방향으로는 정규분포를 띤다.
• 정규화된 랜덤 벡터에 대해 대수법칙이 확립되었으며, 이는 지수 함수의 최대점으로 수렴함을 보여준다.
• 내부 최대의 경우는 정규분포, 경계 최대의 경우는 지수-정규분포 혼합형으로 다른 극한 분포를 갖는 중심극한정리가 증명되었다.
• 증명은 개발된 라플라스 근사법과 추정된 오차, 표준 渐近 기법을 조합하여 수렴성을 보장하는 데 기반한다.