[논문 리뷰] Smoothed Model Checking for Uncertain Continuous Time Markov Chains

Luca Bortolussi, Dimitrios Milios외 1명|arXiv (Cornell University)|2014. 02. 06.

Gaussian Processes and Bayesian Inference참고 문헌 35인용 수 6

한 줄 요약

이 논문은 불확실한 연속시간 마르코프 체인(CTMC)에서 만족 확률의 매끄러움(smoothness)을 활용하여 매개변수 공간 전반에 걸쳐 만족 함수를 추정하는 베이지안 통계적 방법인 Smoothed Model Checking을 소개한다. 만족 함수를 가우시안 프로세스(Gaussian Process)로 모델링함으로써, 적은 수의 시뮬레이션으로도 전체 만족 함수의 정확하고 전역적인 근사치를 도출할 수 있으며, 기존의 통계적 모델 체킹에 비해 수개의 주기 수준의 속도 향상을 이룩하면서도 높은 정확도를 유지한다.

ABSTRACT

We consider the problem of computing the satisfaction probability of a formula for stochastic models with parametric uncertainty. We show that this satisfaction probability is a smooth function of the model parameters. This enables us to devise a novel Bayesian statistical algorithm which performs statistical model checking simultaneously for all values of the model parameters from observations of truth values of the formula over individual runs of the model at isolated parameter values. This is achieved by exploiting the smoothness of the satisfaction function: by modelling explicitly correlations through a prior distribution over a space of smooth functions (a Gaussian Process), we can condition on observations at individual parameter values to construct an analytical approximation of the function itself. Extensive experiments on non-trivial case studies show that the approach is accurate and several orders of magnitude faster than naive parameter exploration with standard statistical model checking methods.

연구 동기 및 목표

• 모델의 매개변수가 완전히 특정되지 않은 CTMC에서의 모델 체킹 문제를 해결하기 위해, 기존 방법이 완전히 특정된 모델을 전제로 한다는 점을 고려한다.
• 모델 매개변수의 불확실성을 고려한 확장 가능하고 정확한 통계적 모델 체킹 프레임워크를 개발한다.
• 만족 함수의 매끄러움을 구조적 성질로 활용하여 서로 다른 매개변수 값 간에 정보를 전이한다.
• 단지 고립된 매개변수 값에서의 점 추정치가 아니라, 전체 함수에 대한 전역적 분석 근사치를 제공한다.
• 만족 확률의 빠르고 미분 가능한 표현을 제공함으로써, 효율적인 시스템 설계, 매개변수 학습 및 희귀사건 분석을 가능하게 한다.

제안 방법

• 일부 조건 하에서, 시간 논리 공식이 CTMC에서 만족될 확률인 만족 함수는 매끄럽고 미분 가능함을 증명하여 매개변수 간의 보간이 가능하다.
• 만족 함수를 모델링하기 위해 매끄러운 함수 위에 비모수적 사전 분포로 가우시안 프로세스(GP)를 사용하며, 이는 매끄러움과 근접한 매개변수 값 간의 상관관계를 반영한다.
• 이산적인 매개변수 값에서 독립적인 CTMC 시뮬레이션으로부터의 관측치를 이용해 GP를 조건화함으로써, 예측과 불확실성 정량화를 제공하는 사후 분포를 도출한다.
• 이 방법은 어떤 관측되지 않은 매개변수 값에서의 만족 함수의 사후 평균과 분산을 계산하기 위해 베이지안 추론을 수행하며, 이는 전체 함수의 분석적 근사치를 가능하게 한다.
• 공간 상의 상관관계를 활용함으로써 매개변수 공간의 전반적인 탐색을 피하고, 필요한 시뮬레이션 수를 크게 줄인다.
• 이 프레임워크는 만족 함수의 전역적이고 미분 가능한 모델을 제공함으로써, 효율적인 샘플링 및 최적화(예: 중요도 샘플링 유도 또는 시스템 설계 정보 제공)를 지원한다.

실험 결과

연구 질문

• RQ1 불확실한 매개변수를 가진 CTMC에서 시간 논리 공식의 만족 확률이 그 매개변수의 매끄러운 함수로 모델링될 수 있는가?
• RQ2 만족 함수의 매끄러움은 통계적 모델 체킹에서 필요한 시뮬레이션 수를 줄이기 위해 어떻게 활용될 수 있는가?
• RQ3 가우시안 프로세스가 제한된 수의 시뮬레이션 실행으로부터 전체 만족 함수의 정확하고 효율적인 베이지안 근사치를 제공할 수 있는가?
• RQ4 이 방법은 정확도와 계산 효율성 측면에서 기존의 통계적 모델 체킹에 비해 어느 정도 뛰어나게 성능을 발휘하는가?
• RQ5 이 프레임워크는 불확실한 스토케스틱 시스템에서의 시스템 설계나 희귀사건 분석을 지원하는 데 어떻게 활용될 수 있는가?

주요 결과

• 매개변수 불확실성이 있는 CTMC에서 공식의 만족 함수는 온건한 조건 하에서 매끄럽고 미분 가능하며, 이는 매개변수 값 간의 보간을 가능하게 한다.
• 제안된 Smoothed Model Checking 방법은 고립된 매개변수 값에서의 소수의 시뮬레이션 실행만으로도 전체 만족 함수의 정확한 전역 근사치를 도출할 수 있다.
• 비교적 비효율적인 표준 통계적 모델 체킹에 비해 수개의 주기 수준의 속도 향상을 이룩하면서도 높은 정확도를 유지함을 비트리비얼 케이스 스터디를 통해 입증하였다.
• 가우시안 프로세스의 사용은 희소한 관측치로부터도 전체 매개변수 공간 전역에서의 만족 확률에 대한 불확실성 정량화와 분석적 예측을 가능하게 한다.
• 이 프레임워크는 그 전역성과 미분 가능성 덕분에 시스템 설계, 중요도 샘플링, 매개변수 학습 유도에 적합하다.
• 희소 GP 근사 기법과 조합할 경우 고차원 매개변수 공간으로의 확장성도 확보되나, 전체 GP 추론은 관측치 수에 대해 세제곱의 복잡도를 유지한다.