[논문 리뷰] Polynomial Chaos Expansion for general multivariate distributions with correlated variables

Maria Navarro Jimenez, Jeroen Witteveen외 1명|arXiv (Cornell University)|2014. 06. 20.

Probabilistic and Robust Engineering Design참고 문헌 36인용 수 41

한 줄 요약

이 논문은 상관된 랜덤 입력을 가진 일반적인 다변량 분포에 대해 정규직교 다항식 기반을 구성하는 일반화된 다항 chaos 전개(PCE) 방법을 제안한다. 이는 입력 간 독립성을 요구하지 않으며 정확한 불확실성 정량화를 가능하게 한다. 표준 PCE와 동일한 수렴 속도와 계산 효율성을 유지하며, 평균, 분산 및 Sobol’ 지수는 추가 비용 없이 계산 가능하다. 이는 상관 강도가 다양한 상황에서의 미분방정식 및 효소 반응 모델을 통해 입증되었다.

ABSTRACT

Recently, the use of Polynomial Chaos Expansion (PCE) has been increasing to study the uncertainty in mathematical models for a wide range of applications and several extensions of the original PCE technique have been developed to deal with some of its limitations. But as of to date PCE methods still have the restriction that the random variables have to be statistically independent. This paper presents a method to construct a basis of the probability space of orthogonal polynomials for general multivariate distributions with correlations between the random input variables. We show that, as for the current PCE methods, the statistics like mean, variance and Sobol' indices can be obtained at no significant extra postprocessing costs. We study the behavior of the proposed method for a range of correlation coefficients for an ODE with model parameters that follow a bivariate normal distribution. In all cases the convergence rate of the proposed method is analogous to that for the independent case. Finally, we show, for a canonical enzymatic reaction, how to propagate experimental errors through the process of fitting parameters to a probabilistic distribution of the quantities of interest, and we demonstrate the significant difference in the results assuming independence or full correlation compared to taking into account the true correlation.

연구 동기 및 목표

• 기존 PCE 방법이 통계적 독립성을 요구하는 한계를 해결하기 위해, 임의의 상관관계를 가진 일반적인 다변량 분포에 대한 PCE를 가능하게 한다.
• 입력을 변환하거나 분리하지 않고도 상관된 랜덤 변수의 확률 공간에서 정규직교 다항식 기반을 구성하는 방법을 개발한다.
• 표준 통계량인 평균, 분산 및 Sobol’ 지수를 표준 PCE 프레임워크를 초과하는 추가 계산 비용 없이 계산할 수 있도록 보장한다.
• 합성 및 실제 모델을 활용하여 다양한 상관 강도에서의 수렴 특성과 견고성을 입증한다.
• 특히 실험 오차 전파가 있는 생화학 시스템에서 상관관계가 민감도 분석 및 모델 해석에 미치는 실질적 영향을 보여준다.

제안 방법

• 상관된 입력의 공동 확률밀도함수에 의해 정의된 내적을 사용하여, 제곱적분 가능한 랜덤 변수의 힐버트 공간에서 정규직교 다항식 기반을 구성한다.
• 단항식 기반에 대해 그람-슈미트 직교화를 적용하여 상관관계를 명시적으로 반영한 정규직교 다항식을 생성한다.
• 관심 양(QoI)의 전개는 정확한 적분 또는 몬테카를로 샘플링을 통해 계산된 내적을 사용하여 이 기반에 투영한다.
• 모멘트(평균, 분산) 및 Sobol’ 지수는 전개 계수에서 직접 유도되며, 추가 후처리가 필요 없다.
• 이 방법은 상관 계수를 변화시킨 이변량 정규분포 미분방정식 모델과 실험 오차 전파가 있는 표준 효소 반응 시스템을 통해 검증된다.
• 미래의 계산 가속화를 위해 가우스 적분이 개발 중이다.

실험 결과

연구 질문

• RQ1 입력 변수 간 임의의 상관관계를 가진 다변량 분포에 대해 일반화된 다항 chaos 전개를 구성할 수 있는가?
• RQ2 입력 간 상관관계가 존재할 경우, 제안된 방법이 표준 PCE와 동일한 수렴 속도를 유지하는가?
• RQ3 입력 매개변수 간 상관관계가 민감도 분석 결과, 특히 Sobol’ 지수에 미치는 영향은 독립성을 가정한 경우와 어떻게 다를까?
• RQ4 진정한 상관관계가 실험 오차가 있는 실제 생화학 반응 모델에서의 불확실성 전파에 어떤 영향을 미치는가?
• RQ5 입력 전처리 없이 알려진 상관관계를 가진 실험 데이터에 이 방법을 적용할 수 있는가?

주요 결과

• 제안된 PCE 방법은 입력 변수가 완전히 상관관계가 있더라도 표준 PCE와 동일한 수렴 속도를 달성하며, 다양한 상관 강도에서의 견고성을 입증한다.
• 이변량 정규분포 미분방정식 모델에서, 이 방법은 상관 계수가 0에서 1까지의 모든 경우에 해의 통계적 특성을 정확히 포괄한다.
• 효소 반응 모델에서 독립성을 가정한 결과는 $k_3$가 무시할 만큼 미미하다는 잘못된 결론을 내렸지만, 진정한 상관관계를 고려한 결과는 $k_3$가 기질 농도의 분산에 상당한 영향을 미친다는 것이 드러났다.
• 전체 Sobol’ 지수는 상관관계가 존재할 경우 $k_1$과 $k_2$가 비선형적 상쇄 효과를 보이며, 이로 인해 단순히 개별 기여도를 해석하는 것은 오해로 이어질 수 있음을 보여주었다.
• 이 방법은 실험 오차를 매개변수 피팅 과정을 통해 정확히 전파할 수 있으며, 상태 변수에 대한 확률적 기술을 제공함으로써 최적의 실험 설계를 지원한다.
• Sobol’ 지수를 위한 고차수 모멘트는 다항식 차수와 상관 강도에 따라 급격히 증가하며, 상관 계수 $\varrho = 0.9$일 경우 차수 75의 모멘트는 $10^{21}$에 이를 정도로 수치적 도전 과제를 드러낸다. 이는 고차원 환경에서의 문제를 강조한다.