[논문 리뷰] Most Relevant Explanation: Properties, Algorithms, and Evaluations

Changhe Yuan, Xiaolu Liu외 2명|arXiv (Cornell University)|2012. 05. 09.

Bayesian Modeling and Causal Inference참고 문헌 10인용 수 14

한 줄 요약

이 논문은 관측된 증거를 설명하는 데 가장 관련성이 높은 변수를 식별하기 위한 Most Relevant Explanation (MRE) 방법을 제안한다. 부드러운 관련성 측정법과 격자 구조의 해 공간에서의 支配 관계를 활용한 K-MRE 알고리즘을 제안하여 상위-k개의 대표적 설명을 생성하며, 설명을 제거하는 등의 직관적인 추론 방식을 잘 포착하고 있음을 입증한다.

ABSTRACT

Most Relevant Explanation (MRE) is a method for finding multivariate explanations for given evidence in Bayesian networks [12]. This paper studies the theoretical properties of MRE and develops an algorithm for finding multiple top MRE solutions. Our study shows that MRE relies on an implicit soft relevance measure in automatically identifying the most relevant target variables and pruning less relevant variables from an explanation. The soft measure also enables MRE to capture the intuitive phenomenon of explaining away encoded in Bayesian networks. Furthermore, our study shows that the solution space of MRE has a special lattice structure which yields interesting dominance relations among the solutions. A K-MRE algorithm based on these dominance relations is developed for generating a set of top solutions that are more representative. Our empirical results show that MRE methods are promising approaches for explanation in Bayesian networks.

연구 동기 및 목표

• 관측된 증거를 설명하는 데 가장 관련성이 높은 변수를 체계적으로 식별하기 위한 방법을 개발하는 것.
• 특히 변수 선택에 부드러운 관련성 측정법에 의존하는 MRE의 이론적 성질을 체계화하는 것.
• 해 공간 내의 支配 관계를 활용하여 다양하고 대표적인 상위 설명들을 효율적으로 생성하는 K-MRE 알고리즘을 설계하는 것.
• MRE가 베이지안 네트워크에서 설명을 제거하는 등의 직관적인 추론 현상(예: explaining away)을 얼마나 잘 포착하는지 경험적으로 평가하는 것.

제안 방법

• MRE는 조건부 통합과 정보 양수를 기반으로 한 부드러운 관련성 측정법을 사용하여 설명 대상 변수의 순위를 매긴다.
• MRE의 해 공간은 격자 구조를 띠며, 후보 설명들 사이에 支配 관계가 존재함을 보여준다.
• K-MRE 알고리즘은 이러한 支도 관계를 활용하여 열등한 설명들을 효율적으로 잘라내고 상위-k개의 대표적 해를 생성한다.
• 알고리즘은 이전에 선택된 해들에 支도되지 않는 해를 반복적으로 선택함으로써 다양성과 관련성을 보장한다.
• MRE는 조건부 의존성을 통해 불확실성을 줄이는 설명들을 선호함으로써 설명을 제거하는 것을 암묵적으로 모델링한다.
• 이 방법은 벤치마크 베이지안 네트워크에서 구현되고, 기준 설명 기법들과의 성능 비교를 통해 평가되었다.

실험 결과

연구 질문

• RQ1 어떻게 하면 베이지안 네트워크에서 증거를 설명하는 데 가장 관련성이 높은 변수를 식별하기 위해 부드러운 관련성 측정법을 체계적으로 정의할 수 있는가?
• RQ2 MRE의 해 공간은 어떤 구조적 성질을 보이며, 이를 어떻게 효율적인 설명 생성에 활용할 수 있는가?
• RQ3 MRE는 베이지안 네트워크에서 설명을 제거하는 등의 직관적인 추론 패턴을 어느 정도 잘 포착하는가?
• RQ4 K-MRE 알고리즘은 기존 방법에 비해 상위 설명들의 다양하고 대표적인 집합을 생성하는 데 어떻게 향상되는가?
• RQ5 어떤 경험적 증거가 MRE가 인간이 이해할 수 있고 정확한 설명을 제공한다는 데서 유도되는가?

주요 결과

• MRE는 조건부 의존성을 통해 불확실성을 줄이는 설명들을 우선시함으로써 설명을 제거하는 현상을 효과적으로 포착한다.
• MRE의 해 공간은 잘 정의된 支도 관계를 갖는 격자 구조를 띠며, 열등한 해를 효율적으로 잘라내는 데 유용하다.
• K-MRE 알고리즘은 다양하고 대표적인 상위-k개의 해를 성공적으로 생성하여, 기준 방법들에 비해 설명 품질에서 뛰어난 성능을 보였다.
• 경험적 평가 결과, MRE는 대안적 설명 기법들에 비해 더 직관적이고 정보가 풍부한 설명을 제공하는 것으로 나타났다.
• MRE의 부드러운 관련성 측정법은 사용자 정의된 임계값이나 가중치가 필요 없이 자동으로 변수 선택을 가능하게 한다.
• MRE는 벤치마크 베이지안 네트워크 모델에서 뛰어난 확장성과 강인성을 보이며, 실용적 타당성을 확인했다.