[논문 리뷰] Understanding the Complexity of Lifted Inference and Asymmetric Weighted Model Counting

Eric Gribkoff, Guy Van den Broeck외 1명|arXiv (Cornell University)|2014. 05. 13.

Bayesian Modeling and Causal Inference참고 문헌 12인용 수 14

한 줄 요약

이 논문은 SRL 및 PDB 분야의 이전 접근법을 일반화하는 가중치가 부여된 일阶 논리 모델 카운팅(WFOMC)를 위한 업그레이드된 추론 알고리즘인 Lift${}^{\textbf{R}}$를 소개한다. 비트레비얼한 FO CNF 문장의 조합에 대해 새로운 이분화 정리(dichotomy theorem)를 수립하여, 문장의 구조에 따라 WFOMC가 다항시간(PTIME)이거나 #P-난이도(#P-hard)임을 증명한다. Lift${}^{\textbf{R}}$는 다항시간으로 해결 가능한 경우를 다루며, 난이도가 높은 경우에는 실패한다.

ABSTRACT

In this paper we study lifted inference for the Weighted First-Order Model Counting problem (WFOMC), which counts the assignments that satisfy a given sentence in first-order logic (FOL); it has applications in Statistical Relational Learning (SRL) and Probabilistic Databases (PDB). We present several results. First, we describe a lifted inference algorithm that generalizes prior approaches in SRL and PDB. Second, we provide a novel dichotomy result for a non-trivial fragment of FO CNF sentences, showing that for each sentence the WFOMC problem is either in PTIME or #P-hard in the size of the input domain; we prove that, in the first case our algorithm solves the WFOMC problem in PTIME, and in the second case it fails. Third, we present several properties of the algorithm. Finally, we discuss limitations of lifted inference for symmetric probabilistic databases (where the weights of ground literals depend only on the relation name, and not on the constants of the domain), and prove the impossibility of a dichotomy result for the complexity of probabilistic inference for the entire language FOL.

연구 동기 및 목표

• MDNF 제약 조건을 초월하여 임의의 CNF 문장을 다룰 수 있도록 PDB 스타일의 비대칭 WFOMC를 일반화한 통합된 업그레이드 추론 알고리즘을 개발함으로써, 소프트 또는 하드 증거를 포함한 SRL 모델에 대한 업그레이드 추론을 가능하게 한다.
• 일阶 논리의 기능형 정규형(FO CNF)의 비트레비얼한 부분집합에 대해 WFOMC의 복잡도에 대한 이론적 이분화를 수립하여, 각 문장이 다항시간(PTIME) 또는 #P-난이도(#P-hard)로 분류됨을 밝힘.
• Lift${}^\textbf{R}}$가 다항시간 계산을 통해 다항시간 문제를 정확히 식별하고, #P-난이도 문제에서는 실패함을 보여주어 정확한 복잡도 경계를 제공함.
• 대칭적 확률 기반 데이터베이스에서 업그레이드 추론의 한계를 명확히 하고, 일반 FOL에 대한 완전한 이분화 결과가 불가능함을 보임.
• 확률 기반 데이터베이스와 통계적 관계학습의 이론적 통찰을 하나의 알고리즘적 및 복잡도 프레임워크에 통합함으로써 두 분야를 연결함.

제안 방법

• 기존의 PDB 및 SRL 기법을 일반화하여, 부정을 포함한 임의의 CNF 문장을 다룰 수 있도록 하는 업그레이드 추론 알고리즘인 Lift${}^\textbf{R}}$를 제안함.
• 일阶 원소에 기반한 변수 제거 및 인수 분해 전략을 활용한 재귀적 분해 기법을 적용하여 논리적 구조의 대칭성을 활용함.
• 다항식의 대수적 독립성 분석 및 난이도 결과 유도를 위해, 힐베르트의 니울스텐젠츠 정리와 몐드환(quotient rings)과 같은 대수기하학 도구를 적용함.
• 기존의 #P-난이도 문제를 부정이 포함된 WFOMC 인스턴스로 감소시키기 위해 지그재그 구조(zigzag construction)를 적용하여 특정 구조 조건 하에서 난이도를 증명함.
• 다항식의 동치 클래스 분석 및 영항 다항식 존재성의 모순을 유도하기 위해 몰드환 구조 $ R[x]/\langle q \rangle $ 를 활용함.
• 복잡한 쿼리에서 불필요한 성분을 상수 인자 $ c_0 $ 로 간주하는 프레임워크를 도입하여, 복잡한 쿼리를 더 단순한 등가 형태로 환원함.

실험 결과

연구 질문

• RQ1 MDNF 제약 조건을 초월하여 부정을 포함한 임의의 CNF 문장을 다룰 수 있는 업그레이드 추론 알고리즘을 설계할 수 있는가?
• RQ2 FO CNF 문장의 비트레비얼한 부분집합에 대해 WFOMC의 복잡도에 대한 구조적 이분화가 존재하는가? 즉, 각 문장이 다항시간(PTIME) 또는 #P-난이도(#P-hard)로 분류되는가?
• RQ3 제안된 알고리즘 Lift${}^\textbf{R}}$는 다항시간 문제를 다항시간에 해결하고, #P-난이도 문제에서는 실패함을 정확히 식별하는가?
• RQ4 전체 일阶 논리 언어에 대해 완전한 이분화 결과를 확립할 수 있는가, 아니면 대칭성 가정으로 인한 본질적 한계로 인해 불가능한가?
• RQ5 대칭적 확률 기반 데이터베이스에서 업그레이드 추론의 이론적 및 실용적 한계는 무엇이며, 왜 전체 FOL에 대한 일반적인 이분화가 불가능한가?

주요 결과

• Lift${}^\textbf{R}}$는 부정을 포함한 임의의 CNF 문장을 다룰 수 있도록 하여, SRL 및 PDB에서 조건부 쿼리에 대한 업그레이드 추론을 가능하게 함으로써 이전의 업그레이드 추론 기법을 일반화함.
• FO CNF의 비트레비얼한 부분집합에 대해 새로운 이분화 정리가 증명됨: 이 클래스에 속하는 각 문장에 대해 WFOMC는 문장의 구조에 따라 다항시간(PTIME) 또는 #P-난이도(#P-hard)로 분류됨.
• WFOMC가 다항시간으로 해결 가능한 경우(Lift${}^\textbf{R}}$는 다항시간에 해결함), #P-난이도인 경우 알고리즘이 실패함으로써 정확한 복잡도 경계가 확립됨.
• 알고리즘의 정확성과 복잡도 분류 결과는 대수기하학에 기반하며, 힐베르트의 니울스텐젠츠 정리와 몰드환을 활용해 다항식의 독립성 분석함.
• 비대칭 확률 기반 데이터베이스에서 전체 FOL에 대한 완전한 이분화가 불가능함을 증명함. 이는 대칭성이 부족하기 때문임.
• 지그재그 구조를 활용한 난이도 증명을 통해, 부정이 포함된 복잡한 쿼리를 상수 인자 스케일링을 통해 등가 형태로 환원함으로써 난이도 증명이 가능해짐.