[논문 리뷰] Making Sensitivity Analysis Computationally Efficient

Uffe Kjærulff, Linda C. van der Gaag|arXiv (Cornell University)|2013. 01. 16.

Bayesian Modeling and Causal Inference참고 문헌 12인용 수 164

한 줄 요약

이 논문은 단일 잇점 트리 전파를 활용하여 모든 파라미터의 계수를 동시에 계산함으로써 베이지안 네트워크에서 민감도 분석을 계산적으로 효율적으로 수행하는 방법을 제안한다. 이는 반복적인 네트워크 평가가 필요로 하는 것을 줄인다. 이 방법은 전통적인 방법에 비해 성능 향상을 크게 이룩한 한 번의 민감도 분석과 n번의 민감도 분석을 모두 가능하게 한다.

ABSTRACT

To investigate the robustness of the output probabilities of a Bayesian network, a sensitivity analysis can be performed. A one-way sensitivity analysis establishes, for each of the probability parameters of a network, a function expressing a posterior marginal probability of interest in terms of the parameter. Current methods for computing the coefficients in such a function rely on a large number of network evaluations. In this paper, we present a method that requires just a single outward propagation in a junction tree for establishing the coefficients in the functions for all possible parameters; in addition, an inward propagation is required for processing evidence. Conversely, the method requires a single outward propagation for computing the coefficients in the functions expressing all possible posterior marginals in terms of a single parameter. We extend these results to an n-way sensitivity analysis in which sets of parameters are studied.

연구 동기 및 목표

• 전통적인 베이지안 네트워크 민감도 분석의 높은 계산 비용을 해결하기 위해.
• 민감도 계수를 계산하기 위해 필요한 네트워크 평가 횟수를 줄이기 위해.
• 다양한 파라미터에 대한 효율적인 한 번의 민감도 분석과 n번의 민감도 분석을 가능하게 하기 위해.
• 네트워크 크기와 복잡도에 따라 잘 스케일링되는 방법을 개발하기 위해.
• 확률적 추론 시스템에서의 강건성 평가를 위한 실용적인 프레임워크를 제공하기 위해.

제안 방법

• 모든 파라미터의 민감도 계수를 동시에 계산하기 위해 잇점 트리에서 단일 외향 전파를 활용한다.
• 민감도 분석 중 증거를 효율적으로 처리하기 위해 내향 전파를 적용한다.
• 통합된 프레임워크 내에서 파라미터 집합을 분석함으로써 이 방법을 n번의 민감도 분석으로 확장한다.
• 잇점 트리의 구조를 활용하여 중복된 네트워크 평가를 방지한다.
• 파라미터 변화에 따른 사후 마진 확률의 해석적 표현을 유도한다.
• 지역적 및 전역적 민감도 분석 시나리오 모두에 이 방법을 적용한다.

실험 결과

연구 질문

• RQ1 어떻게 하면 베이지안 네트워크에서 민감도 분석을 계산적으로 효율적으로 만들 수 있는가?
• RQ2 잇점 트리에서 단일 전파가 민감도 계수를 계산하기 위해 여러 번의 평가를 대체할 수 있는가?
• RQ3 한 번의 민감도 분석과 n번의 민감도 분석에 대해 통합된 전파 방법을 사용할 경우 성능 향상은 어느 정도인가?
• RQ4 네트워크 크기와 파라미터 수가 증가함에 따라 이 방법은 어떻게 스케일링되는가?
• RQ5 이 방법은 파라미터 집합(즉, n번의 분석)을 효율적으로 분석할 수 있도록 확장될 수 있는가?

주요 결과

• 제안된 방법은 모든 파라미터의 민감도 계수를 계산하기 위해 잇점 트리에서 단일 외향 전파만으로도 충분하여 계산 오버헤드를 크게 줄인다.
• 이 방법은 단일 전파로 한 번의 파라미터에 대해 모든 사후 마진 확률의 계수를 계산함으로써 효율적인 한 번의 민감도 분석을 가능하게 한다.
• n번의 민감도 분석을 위해 이 방법은 추가적인 네트워크 평가 없이도 파라미터 집합을 동시에 분석할 수 있다.
• 이 방법은 각 파라미터별로 별도로 수많은 네트워크 평가가 필요한 전통적 방법에 비해 상당히 뛰어난 성능을 보인다.
• 정확도를 유지하면서도 상당한 속도 향상을 이룩하여 더 큰 네트워크에 대한 민감도 분석을 실현 가능하게 한다.
• 이 기법은 일반적이며 다양한 베이지안 네트워크 추론 작업에 적용 가능하며, 강건성 평가가 필요한 곳에 유용하다.