[논문 리뷰] Inference in Probabilistic Logic Programs using Weighted CNF's

Daan Fierens, Guy Van den Broeck외 3명|arXiv (Cornell University)|2012. 02. 14.

Bayesian Modeling and Causal Inference참고 문헌 13인용 수 69

한 줄 요약

이 논문은 확률적 논리 프로그램을 가중치가 부여된 CNF 공식으로 컴파일하여 최신의 가중치 모델 카운팅 기법을 활용할 수 있도록 하는 효율적인 추론 프레임워크를 제안한다. 제안된 방법은 기존의 방법들과 비교해 MAP 추론과 주변 확률 계산에서 성능이 크게 향상된다.

ABSTRACT

Probabilistic logic programs are logic programs in which some of the facts are annotated with probabilities. Several classical probabilistic inference tasks (such as MAP and computing marginals) have not yet received a lot of attention for this formalism. The contribution of this paper is that we develop efficient inference algorithms for these tasks. This is based on a conversion of the probabilistic logic program and the query and evidence to a weighted CNF formula. This allows us to reduce the inference tasks to well-studied tasks such as weighted model counting. To solve such tasks, we employ state-of-the-art methods. We consider multiple methods for the conversion of the programs as well as for inference on the weighted CNF. The resulting approach is evaluated experimentally and shown to improve upon the state-of-the-art in probabilistic logic programming.

연구 동기 및 목표

• 확률적 논리 프로그램에서 MAP 및 주변 확률 계산과 같은 고전적 확률적 작업을 위한 효율적인 추론 알고리즘이 부족한 문제를 해결하기 위해.
• 확률적 논리 프로그래밍과 가중치 모델 카운팅과 같은 효율적인 지식 표현 기법 간 격차를 메우기 위해.
• 확률적 의미를 유지하면서 확률적 논리 프로그램에서 가중치가 부여된 CNF 공식으로의 체계적 컴파일 파이프라인을 개발하기 위해.
• 제안된 방법이 기존 접근법에 비해 확장성과 정확성 측면에서 우수한지를 평가하고 이를 입증하기 위해.
• 공통의 최적화된 표현을 통해 다양한 추론 작업을 지원하는 통합 프레임워크를 제공하기 위해.

제안 방법

• 논리 제약 조건을 나타내는 절들과 확률적 종속성을 표현하는 가중치를 갖는 가중치가 부여된 CNF 공식으로 확률적 논리 프로그램과 질의를 컴파일하기 위해.
• 논리 프로그램 절들을 문장 논리 절로 변환하는 지형화 절차를 사용하여 확률적 애너테이션을 가중치로 유지하기 위해.
• 주변 확률과 MAP 추정치를 효율적으로 계산하기 위해 최신의 가중치 모델 카운팅 알고리즘을 적용하기 위해.
• 더 빠른 추론을 위해 결과 가중치가 부여된 CNF의 구조와 크기를 최적화하기 위해 다양한 컴파일 전략을 탐색하기 위해.
• 지식 표현 및 인공지능 분야에서 기존에 존재하는 도구와 최적화 기법을 활용하여 효율적인 모델 카운팅을 수행하기 위해.
• 가중치가 부여된 모델 카운팅 인터페이스를 적응시켜 주변 확률 추정과 최대 사후 확률(MAP) 추론을 모두 지원하기 위해.

실험 결과

연구 질문

• RQ1 기존의 모델 카운팅 기법을 활용할 수 있도록 확률적 논리 프로그램을 가중치가 부여된 CNF 공식으로 컴파일할 수 있는가?
• RQ2 제안된 컴파일 기반 추론의 성능은 기존의 확률적 논리 프로그래밍 접근법과 비교해 어떻게 되는가?
• RQ3 크기 최소화와 의미 유지라는 조건 하에 논리 프로그램을 가중치가 부여된 CNF로 컴파일하는 데 가장 효과적인 전략은 무엇인가?
• RQ4 최신의 가중치가 부여된 모델 카운팅 도구는 얼마나 효율적으로 복잡한 확률적 논리 프로그램의 추론 작업을 해결할 수 있는가?
• RQ5 제안된 프레임워크는 실제 세계의 확률적 논리 프로그래밍 워크로드에 대해 효과적으로 확장 가능한가?

주요 결과

• 제안된 방법은 기존의 확률적 논리 프로그래밍 시스템에 비해 추론 성능에서 뚜렷한 속도 향상을 달성한다.
• 가중치가 부여된 CNF로의 컴파일은 매우 최적화된 모델 카운터의 사용을 가능하게 하여 큰 규모의 복잡한 문제에 대해 확장성을 향상시킨다.
• 통합 컴파일 파이프라인을 통해 주변 확률 계산과 MAP 추론을 모두 지원하는 프레임워크를 제공한다.
• 다양한 컴파일 전략은 서로 다른 성능 트레이드오프를 보이며, 일부 구성에서는 특정 벤치마크에서 기준 방법에 비해 수십만 배 이상의 성능 향상을 보였다.
• 실증적 평가를 통해 제안된 접근법이 확률적 논리 프로그래밍 추론 분야에서 최신 기술 수준에 비해 경쟁력 있거나 더 낫다는 것이 확인되었다.
• 높은 조건부 독립성 구조를 포함한 다양한 문제 유형에 걸쳐 뛰어난 강건성을 보였다.