[논문 리뷰] Kernel-based ANOVA decomposition and Shapley effects -- Application to global sensitivity analysis

Sébastien da Veiga|arXiv (Cornell University)|2021. 01. 14.

Probabilistic and Robust Engineering Design인용 수 8

한 줄 요약

이 논문은 재생 커널 힐버트 공간(RKHS)을 사용하여 모멘트에 의존하지 않는 민감도 지표를 위한 커널 기반 ANOVA 분해를 제안한다. 이는 커널 임bedded 민감도 측정치에 대한 분산 유사 분해를 가능하게 하며, 비-소볼' 지표에 대한 첫 번째 ANOVA 분해를 증명하고, 커널 임베딩 셰플리 효과를 통해 종속된 입력으로 일반화하며, 다양한 출력 유형(이산형, 기능형 등)을 위한 통합 프레임워크를 제공한다.

ABSTRACT

Global sensitivity analysis is the main quantitative technique for identifying the most influential input variables in a numerical simulation model. In particular when the inputs are independent, Sobol' sensitivity indices attribute a portion of the output of interest variance to each input and all possible interactions in the model, thanks to a functional ANOVA decomposition. On the other hand, moment-independent sensitivity indices focus on the impact of input variables on the whole output distribution instead of the variance only, thus providing complementary insight on the inputs / output relationship. Unfortunately they do not enjoy the nice decomposition property of Sobol' indices and are consequently harder to analyze. In this paper, we introduce two moment-independent indices based on kernel-embeddings of probability distributions and show that the RKHS framework used for their definition makes it possible to exhibit a kernel-based ANOVA decomposition. This is the first time such a desirable property is proved for sensitivity indices apart from Sobol' ones. When the inputs are dependent, we also use these new sensitivity indices as building blocks to design kernel-embedding Shapley effects which generalize the traditional variance-based ones used in sensitivity analysis. Several estimation procedures are discussed and illustrated on test cases with various output types such as categorical variables and probability distributions. All these examples show their potential for enhancing traditional sensitivity analysis with a kernel point of view.

연구 동기 및 목표

• 모멘트에 의존하지 않는 민감도 지표에 대한 ANOVA 분해의 부재로 인해 고차원 효과의 해석성과 정규화가 제한되는 문제를 해결하기 위해.
• RKHS 프레임워크를 민감도 분석으로 확장하여, 기존의 소볼' 지표를 초월한 기능적 분해를 가능하게 하기 위해.
• 커널 임베딩을 활용해 종속된 입력으로의 셰플리 효과를 일반화하여, 해석성과 정규화를 유지하기 위해.
• 이산형, 기능형, 다변량 출력 등 다양한 출력 유형 간 민감도 분석을 커널 방법을 통해 통합하기 위해.
• 복잡한 시뮬레이션 모델에서 모멘트에 의존하지 않는 지표와 셰플리 기반 지표를 위한 이론적으로 탄탄하고 추정이 가능한 프레임워크를 제공하기 위해.

제안 방법

• RKHS 내 확률 분포의 커널 임베딩을 사용하여 MMD(최대 평균 차이) 기반의 모멘트에 의존하지 않는 민감도 지표를 정의한다.
• RKHS의 구조를 활용해 커널 기반 ANOVA 분해를 유도함으로써 총 효과를 주효과 및 상호작용 효과로 분해할 수 있도록 한다.
• 특정 커널 선택(예: 적절한 대역폭을 가진 가우시안 커널) 시, 제안된 커널 기반 지표가 소볼' 지표로 축소됨을 증명한다.
• 게임 이론 원리를 RKHS 프레임워크 내에서 활용해 종속된 입력으로의 커널 임베딩 셰플리 효과를 도입한다.
• 집중 불등식(예: 맥디아미드의 불등식)을 활용해 제안된 지표의 경험적 추정기의 일致성(일致성)을 정당화한다.
• 몬테카를로 샘플링과 커널 리지 회귀 기반 추정 절차를 개발하여 이산형 및 기능형 출력을 포함한 다양한 출력 유형에 적용 가능하도록 한다.

실험 결과

연구 질문

• RQ1 모멘트에 의존하지 않는 민감도 지표에 대해, 분산 기반 분해가 불가능한 상황에서도 커널 기반 ANOVA 분해를 수립할 수 있는가?
• RQ2 제안된 커널 기반 지표가 특정 커널 선택 조건에서 고전적 소볼' 지표를 복원하는가?
• RQ3 커널 임베딩 셰플리 효과를 통해 분산 기반 셰플리 효과를 종속된 입력으로 일반화할 수 있는가?
• RQ4 제안된 프레임워크는 이산형 또는 기능형 출력과 같은 다양한 출력 유형에서 강건하고 해석 가능한가?
• RQ5 커널 기반 프레임워크가 모멘트에 의존하지 않는 지표에 대해 자연스러운 정규화 상수를 제공하고 고차원 효과 분해를 가능하게 하는가?

주요 결과

• 논문은 RKHS를 활용해 비-소볼' 모멘트에 의존하지 않는 민감도 지표에 대한 첫 번째 ANOVA 분해를 수립하여 주효과 및 상호작용 효과의 해석을 가능하게 하였다.
• 제안된 커널 기반 지표는 소볼' 지표를 일반화한다: 적절한 커널(예: 적절한 대역폭을 가진 가우시안 커널)을 사용할 경우 소볼' 지표로 축소된다.
• 종속된 입력으로의 커널 임베딩 셰플리 효과가 도입되어 전통적인 셰플리 효과의 합이 1이 되는 성질과 해석 가능성을 유지한다.
• 적절한 커널 선택(예: 선형, 다항식, 또는 특수 설계된 커널)을 통해 이산형 및 기능형 출력을 포함한 다양한 출력 유형을 지원하는 프레임워크를 제공한다.
• 경험적 추정 절차는 일치성과 집중 불등식에 의해 뒷받침되어 실무에서 신뢰할 수 있는 성능을 보장한다.
• 수치 예제를 통해 이산 변수와 확률 분포를 포함한 테스트 케이스에서 본 방법의 효과성을 입증하였으며, 기존 방법 대비 향상된 해석 가능성을 보였다.