[논문 리뷰] Hybrid Probabilistic Programs: Algorithms and Complexity

Michael Dekhtyar, Alex Dekhtyar외 1명|arXiv (Cornell University)|2013. 01. 23.

Logic, Reasoning, and Knowledge참고 문헌 27인용 수 24

한 줄 요약

이 논문은 사건 간의 확률적 종속성을 모델링하는 로직 프로그래밍 프레임워크인 하이브리드 확률 프로그램(HPPs)을 소개한다. HPPs는 세 가지 클래스(HPP₁, HPP₂, HPPᵣ, r≥3)로 분류되며, 논리적 결과, 함의, 일관성 문제를 계산하기 위한 알고리즘과 복잡도 분석을 제공하여 불확실성 하에서의 확률적 추론에서 다루기 쉬운 경우와 다루기 어려운 경우의 정확한 경계를 설정한다.

ABSTRACT

Hybrid Probabilistic Programs (HPPs) are logic programs that allow the programmer to explicitly encode his knowledge of the dependencies between events being described in the program. In this paper, we classify HPPs into three classes called HPP_1,HPP_2 and HPP_r,r>= 3. For these classes, we provide three types of results for HPPs. First, we develop algorithms to compute the set of all ground consequences of an HPP. Then we provide algorithms and complexity results for the problems of entailment ("Given an HPP P and a query Q as input, is Q a logical consequence of P?") and consistency ("Given an HPP P as input, is P consistent?"). Our results provide a fine characterization of when polynomial algorithms exist for the above problems, and when these problems become intractable.

연구 동기 및 목표

• 하이브리드 확률 프로그램(HPPs)을 통해 로직 프로그램 내에서 확률적 종속성을 표현하기 위한 프레임워크를 체계화하는 것.
• 구조적 제약 조건에 기반해 HPPs를 세 가지 별도의 클래스(HPP₁, HPP₂, HPPᵣ (r≥3))로 분류하는 것.
• HPP의 모든 기초 결과의 집합을 계산하기 위한 효율적인 알고리즘을 개발하는 것.
• HPPs에서 함의 문제와 일관성 문제의 계산 복잡도를 분석하는 것.
• 이러한 문제가 다항 시간 내에 해결 가능한지 여부를 정확히 규명하는 조건을 도출하는 것.

제안 방법

• 논문은 확률적 종속성을 추가한 로직 프로그램으로서 HPPs를 정의하여 사건 간 관계를 명시적으로 표현할 수 있도록 한다.
• 확률적 종속성의 구조에 기반한 분류 체계를 도입: HPP₁, HPP₂, HPPᵣ (r≥3)로, 종속성의 수와 성격이 다름.
• 각 클래스에 대해, 논리적 추론과 확률적 전파를 사용하여 모든 기초 결과의 집합을 계산하기 위한 전용 알고리즘을 설계한다.
• 함의 문제를 HPP에서 쿼리가 논리적으로 유도되는지 여부를 판단하는 문제로 정의하고, 일관성 문제를 HPP가 적어도 하나의 유효한 확률 모델을 가지는지 확인하는 문제로 정의한다.
• 복잡도 분석은 계산 복잡도 이론을 활용하여 세 가지 HPP 클래스 간의 함의 및 일관성 문제의 다루기 쉬운 정도를 분류한다.
• 형식적 논리와 확률 이론을 활용하여 계산 복잡도의 한계를 도출하여 다항 시간 내에 해결 가능한 경우와 NP-난이도 또는 co-NP-난이도인 경우를 구분한다.

실험 결과

연구 질문

• RQ1 확률적 종속성의 구조적 조건이 HPP의 함의 문제를 다루기 쉬운 상태로 유지하는가?
• RQ2 HPP의 모든 기초 결과를 계산하기 위한 효율적인 알고리즘을 구축할 수 있으며, 이는 HPP 클래스에 따라 어떻게 달라지는가?
• RQ3 HPP에서 일관성 검증의 계산 복잡도는 무엇이며, HPP₁, HPP₂, HPPᵣ (r≥3) 간에 어떻게 달라지는가?
• RQ4 HPP 추론에서 다항 시간 내에 해결 가능한 경우와 다루기 어려운 경우를 정확히 구분하는 경계가 존재하는가?
• RQ5 제안된 HPP 클래스들은 기존의 확률적 로직 프로그래밍 형식화와 어떻게 관련되어 있는가?

주요 결과

• HPP₁의 함의 문제는 다항 시간 내에 결정 가능하며, 이는 이 클래스에서 다루기 쉬운 추론을 의미한다.
• HPP₂의 함의 문제는 NP-완전이며, HPP₁에 비해 복잡도가 급격히 증가함을 보여준다.
• r≥3인 HPPᵣ의 경우, 함의 문제는 co-NP-난이도가 되어 상당한 수준의 다루기 어려움을 나타낸다.
• 일관성 문제의 경우 HPP₁에서는 다항 시간 내에 결정 가능하지만, HPP₂에서는 NP-완전이 되고, HPPᵣ (r≥3)에서는 co-NP-난이도가 된다.
• 논문은 확률적 로직 프로그래밍에서 다루기 쉬운 영역과 다루기 어려운 영역을 정확히 구분하는 세밀한 복잡도 분류를 수립한다.