[논문 리뷰] Efficient Search-Based Weighted Model Integration

Zhe Zeng, Guy Van den Broeck|arXiv (Cornell University)|2019. 03. 13.

Bayesian Modeling and Causal Inference참고 문헌 38인용 수 6

한 줄 요약

이 논문은 나무 모양의 원시 그래프를 가진 SMT(ℝ) 이론에서 효율적인 가중 모델 통합(WMI)을 위한 검색 기반 알고리즘을 제안한다. 이 알고리즘은 문맥별 독립성과 다항식 보간을 활용하여 통합 문제를 분해하며, 준다항식 복잡도를 달성하고 나무 구조 문제에서 기존 WMI 솔버들보다 놀라운 속도 향상을 보인다.

ABSTRACT

Weighted model integration (WMI) extends Weighted model counting (WMC) to the integration of functions over mixed discrete-continuous domains. It has shown tremendous promise for solving inference problems in graphical models and probabilistic programming. Yet, state-of-the-art tools for WMI are limited in terms of performance and ignore the independence structure that is crucial to improving efficiency. To address this limitation, we propose an efficient model integration algorithm for theories with tree primal graphs. We exploit the sparse graph structure by using search to performing integration. Our algorithm greatly improves the computational efficiency on such problems and exploits context-specific independence between variables. Experimental results show dramatic speedups compared to existing WMI solvers on problems with tree-shaped dependencies.

연구 동기 및 목표

• 하이브리드 이산-연속 영역에서의 구조적 독립성을 활용하지 못하는 기존 WMI 솔버의 비효율성을 해결하기 위해.
• 더 나은 계산 효율성을 위해 희소한 나무 형태의 원시 그래프를 활용하는 검색 기반 추론 알고리즘을 개발하기 위해.
• 변수 할당과 다항식 보간을 통한 문제 분해를 통해 정확한 WMI 계산을 가능하게 하기 위해.
• 복잡도 분석을 통해 비트ivial한 WMI 문제 클래스에 대한 처리 가능성(tractability)을 공식적으로 확립하기 위해.
• 구조적이고 희소한 문제에서 최신 WMI 솔버들에 비해 뚜렷한 성능 향상을 실험적으로 검증하기 위해.

제안 방법

• SMT(ℝ) 이론에서 나무 형태의 원시 그래프를 가진 공유 변수를 할당함으로써 재귀적 검색을 수행한다.
• 변수 할당 후에 문맥별 독립성을 활용하여 통합 문제를 부분 문제로 분해한다.
• 연속 변수의 경우 유한 개의 할당 지점 선택 후 다항식 보간을 사용하여 정확한 WMI 결과를 복원한다.
• 가중 함수를 인수 분해하여 논리적 구조를 유지함으로써 효율적인 솔버 컴파일을 가능하게 한다.
• 복잡도 분석 결과, 균형 잡힌 나무 형태의 원시 그래프에 대해 준다항식 시간 성능을 보인다.
• 변수 할당과 다항식 보간을 통해 WMI를 무게 없는 모델 통합(MI) 문제로 환원함으로써 기존 MI 솔버의 재사용을 가능하게 한다.

실험 결과

연구 질문

• RQ1 SMT(ℝ) 이론에서 나무 형태의 원시 그래프를 가진 경우, 구조적 독립성을 활용하여 WMI 추론 효율성을 향상시킬 수 있는가?
• RQ2 연속 변수에 대해 검색 기반 분해와 다항식 보간을 통해 정확한 WMI 계산을 달성할 수 있는가?
• RQ3 조각별 다항식 가중치를 가진 나무 형태의 이론에 대해 WMI의 계산 복잡도는 무엇인가?
• RQ4 구조적이고 희소한 문제에서 제안된 방법은 기존 WMI 솔버들에 비해 성능 면에서 어떻게 비교되는가?
• RQ5 인수 분해된 가중 함수를 효과적으로 활용하여 논리적 구조를 유지하고 효율적인 추론을 가능하게 할 수 있는가?

주요 결과

• 제안된 알고리즘은 나무 형태의 원시 그래프를 가진 문제에서 기존 WMI 솔버들에 비해 놀라운 속도 향상을 달성한다.
• 균형 잡힌 나무 형태의 원시 그래프에 대해 준다항식 시간 복잡도를 보이며, 비트ivial한 WMI 문제 클래스에 대한 첫 번째 처리 가능성 결과를 제공한다.
• 변수 할당과 다항식 보간을 통해 WMI를 무게 없는 MI 문제로 환원함으로써 정확한 계산이 가능하다.
• 실험 결과, 문맥별 독립성과 구조적 분해가 통합해야 할 모델 수를 크게 줄임을 확인할 수 있었다.
• 희소 그래프 구조와 인수 분해된 가중 함수를 효과적으로 활용하여 확장성과 성능을 향상시켰다.
• 상호 연관된 연속 변수와 부울 제약 조건을 포함한 합성 및 실제 문제 모두에서 기준 대비 성능이 뛰어나다는 것이 입증되었다.