[논문 리뷰] New improvements in the use of dependence measures for sensitivity analysis and screening

Matthias De Lozzo, Amandine Marrel|arXiv (Cornell University)|2014. 12. 03.

Probabilistic and Robust Engineering Design참고 문헌 1인용 수 4

한 줄 요약

이 논문은 고차원적이고 계산에 비용이 많이 드는 시뮬레이터에서의 전반적 민감도 분석 및 입력 선별을 위해 고전적 Sobol’ 지수의 효율적인 대안으로 거리 상관계수와 힐버트-슈미트 독립성 기준(HSIC)을 제안한다. 이들 측정치를 바탕으로 점근적, 스펙트럼적, 비점근적 독립성 검정을 도입하며, 부트스트랩 기반 선형 모델 접근법을 통해 입력 선택을 수행한다. 결과적으로 종속성 측정치는 더 적은 수의 시뮬레이션으로도 더 빠르고 정확한 선별을 가능하게 하며, 특히 표본 크기가 작거나 입력 차원이 높을 경우에 특히 효과적임을 입증한다.

ABSTRACT

Physical phenomena are commonly modeled by numerical simulators. Such codes can take as input a high number of uncertain parameters and it is important to identify their influences via a global sensitivity analysis (GSA). However, these codes can be time consuming which prevents a GSA based on the classical Sobol' indices, requiring too many simulations. This is especially true as the number of inputs is important. To address this limitation, we consider recent advances in dependence measures, focusing on the distance correlation and the Hilbert-Schmidt independence criterion (HSIC). Our objective is to study these indices and use them for a screening purpose. Numerical tests reveal some differences between dependence measures and classical Sobol' indices, and preliminary answers to "What sensitivity indices to what situation?" are derived. Then, two approaches are proposed to use the dependence measures for a screening purpose. The first one directly uses these indices with independence tests; asymptotic tests and their spectral extensions exist and are detailed. For a higher accuracy in presence of small samples, we propose a non-asymptotic version based on bootstrap sampling. The second approach is based on a linear model associating two simulations, which explains their output difference as a weighed sum of their input differences. From this, a bootstrap method is proposed for the selection of the influential inputs. We also propose a heuristic approach for the calibration of the HSIC Lasso method. Numerical experiments are performed and show the potential of these approaches for screening when many inputs are not influential.

연구 동기 및 목표

• 고차원 민감도 분석에서 고전적 Sobol’ 지수의 계산 부담을 줄이기 위해 더 빠르고 종속성 기반의 대안을 제안한다.
• 분산 기반 지수보다 모델 평가 횟수가 적은 종속성 측정치(거리 상관계수, HSIC)를 활용한 실용적인 선별 방법을 개발한다.
• 독립성 검정과 부트스트랩 기반 계수 검정을 통한 프레임워크를 제공하여 영향력 있는 입력을 선별한다.
• 다양한 모델 구조와 표본 크기 조건 하에서 다양한 종속성 측정치(HSIC, 거리 상관계수)와 고전적 Sobol’ 지수의 적합성을 조사한다.
• HSIC 라소 방법의 페널티 파라미터에 대한 힌트를 제공하여 스크리닝 맥락에서의 특징 선택 성능을 향상시킨다.

제안 방법

• HSIC와 거리 상관계수의 점근적 및 스펙트럼적 근사치를 활용해 귀무분포를 근사하고, 독립성 검정을 수행한다.
• 작은 표본 설정에서 정확도를 향상시키기 위해 비점근적 부트스트랩 기반 검정을 제안한다.
• 출력 차이를 입력 차이의 가중합으로 표현하는 선형 모델을 설정하여 계수의 부트스트랩 기반 유의성 검정을 가능하게 한다.
• ℓ¹-페널티를 적용한 HSIC 라소 접근법을 도입하며, 양수 계수를 가진 LARS 알고리즘을 통해 해를 구한다.
• 모델 선택 최적화를 위해 교차검증을 활용하고 표준편차 가중치를 적용하여 페널티 파라미터를 캘리브레이션한다.
• 알고리즘 성능을 비교하기 위해 입력-출력 관계가 알려진 분석적 테스트 함수를 대상으로 수치 실험을 수행한다.

실험 결과

연구 질문

• RQ1 비선형성 또는 고차원 설정에서 거리 상관계수와 HSIC가 고전적 Sobol’ 지수보다 입력 영향을 얼마나 잘 탐지하는가?
• RQ2 작거나 중간 크기의 표본 크기에서 계산 비용과 정확도 사이의 최적 균형을 제공하는 독립성 검정(점근적, 스펙트럼적, 부트스트랩)은 무엇인가?
• RQ3 입력-출력 차이를 기반으로 한 선형 모델은 직접 종속성 측정치 평가에 비해 선별 성능을 향상시키는가?
• RQ4 HSIC 라소 방법은 영향력 있는 입력을 얼마나 잘 선별하는가? 그리고 이 방법의 페널티 파라미터 조정 전략은 무엇인가?
• RQ5 상호작용 효과에 대해 종속성 측정치가 Sobol’ 지수보다 보다 민감하거나 보완적인 통찰을 제공하는 시나리오는 어떤가?

주요 결과

• 거리 상관계수와 HSIC 기반의 독립성 검정은 고전적 Sobol’ 지수보다 계산 효율성이 뛰어나며, 모델 평가 횟수를 크게 줄일 수 있다.
• 작은 표본 설정에서는 부트스트랩 기반 검정이 점근적 또는 스펙트럼적 근사보다 더 높은 정확도를 보이며, 큰 표본에서는 점근적 방법이 더 효율적이다.
• 스펙트럼적 근사는 중간 크기의 표본에서 계산 비용과 정확도 사이의 균형을 잘 맞추는 데 효과적이다.
• 첫 번째 접근법—의존성 측정치와 독립성 검정을 직접 활용하는 방법—은 두 번째 접근법(입력 차이의 선형 모델 기반)보다 略적으로 더 우수한 성능을 보였다.
• HSIC는 비선형 효과보다 단조적 효과를 더 신뢰성 있게 탐지하지만, 거리 상관계수의 경우 반대로 행동하여 서로 다른 민감도 프로파일을 보인다.
• 종속성 측정치는 Sobol’ 지수보다 상호작용 효과에 더 민감하여 일부 테스트 케이스에서 다른 결론을 이끌어내며, 밀도 기반 지수(예: Borgonovo 지수)와의 보완적 해석 가능성을 시사한다.