[논문 리뷰] Quantified Markov Logic Networks

Víctor Gutiérrez-Basulto, Jean Christoph Jung외 1명|arXiv (Cornell University)|2018. 07. 03.

Bayesian Modeling and Causal Inference인용 수 1

한 줄 요약

이 논문은 통계적 전칭 기호(∀∗)를 도입하여 고전적 마르코프 논리망(Markov Logic Networks, MLNs)을 확장한 양적 마르코프 논리망(Qualified Markov Logic Networks, QMLNs)을 제안한다. 이는 '대부분의 다른 흡연자를 안다는 흡연자가 존재한다'와 같은 복잡한 통계를 표현할 수 있도록 한다. 주요 기여는 QMLNs에서 최대 사후확률(MAP) 및 주변 확률 추론을 표준 MLN에 다항시간 내에 환원하는 것으로, 이는 유용한 추론 도구를 활용하면서도 표현력을 유지하는 데 기여한다.

ABSTRACT

Markov Logic Networks (MLNs) are well-suited for expressing statistics such as "with high probability a smoker knows another smoker" but not for expressing statements such as "there is a smoker who knows most other smokers", which is necessary for modeling, e.g. influencers in social networks. To overcome this shortcoming, we study quantified MLNs which generalize MLNs by introducing statistical universal quantifiers, allowing to express also the latter type of statistics in a principled way. Our main technical contribution is to show that the standard reasoning tasks in quantified MLNs, maximum a posteriori and marginal inference, can be reduced to their respective MLN counterparts in polynomial time.

연구 동기 및 목표

• 표준 MLNs가 '대부분'이나 '최소 k명'과 같은 기호를 포함한 통계를 표현하는 데 한계가 있다는 점을 다루기 위해, 소셜 네트워크에서 영향력 있는 인물 모델링에 필수적인 기호를 표현할 수 있도록 하는 것.
• 특히 ∀∗에 해당하는 통계적 기호를 사용하여 QMLNs의 형식적 의미 이론을 수립하는 것.
• QMLNs에서 표준 MLNs로의 다항시간 번역을 수립하여 기존 MLN 도구를 활용한 효율적 추론을 가능하게 하는 것.
• 무작위 대체 의미 이론을 QMLNs로 일반화하고, 가중치가 있는 일阶 모델 카운팅(WFOMC)과의 관계를 탐색하는 것.
• QMLNs가 MLNs의 원칙적인 확장으로서 관계적 확률 모델링에 더 높은 표현력을 갖추기 위한 이론적 기반을 마련하는 것.

제안 방법

• Qi가 ∃, ∀, 또는 ∀∗일 수 있는 형식의 가중치가 있는 양적 문장(Q1x1,…,Qkxk : ϕ(x1,…,xk), w)을 사용한 QMLNs의 새로운 문법 도입.
• ∃에 대한 최대화, ∀에 대한 최소화, ∀∗에 대한 기대값을 정의하며, ∀∗는 균일하게 샘플링된 구체화에 대응한다.
• 기존 QMLN의 의미를 유지하면서도 기호 블록을 인코딩하기 위해 새로운 기호와 공식을 도입함으로써 QMLNs에서 표준 MLNs로의 번역을 제안한다.
• 이 번역 과정이 다항시간 내에 수행됨을 증명하여, QMLNs에서의 MAP 및 주변 확률 추론을 표준 MLN에 다항시간 환원할 수 있음을 보장한다.
• 무작위 대체 의미 이론을 QMLNs로 일반화하며, 표준 MLNs가 모든 기호가 ∀∗인 경우에 해당하는 분할과 동치임을 보여준다.
• 2변수 QMLNs와 WFOMC 간의 관계를 조사하며, 수량 기호를 포함한 확장에 대해 복잡도 문제가 남아 있음을 강조한다.

실험 결과

연구 질문

• RQ1 표준 MLNs가 표현할 수 없는 관계적 통계, 예를 들어 '대부분의 다른 흡연자를 안다는 사람'과 같은 통계를 QMLNs가 표현할 수 있는가?
• RQ2 QMLNs에서의 MAP 및 주변 확률 추론을 표준 MLN에 다항시간 내에 환원할 수 있는가?
• RQ3 ∀∗와 같은 통계적 기호의 도입이 MLNs의 의미 이론과 표현력에 어떤 영향을 미치는가?
• RQ4 QMLNs와 가중치가 있는 일阶 모델 카운팅(WFOMC) 간의 관계는 무엇이며, 특히 2변수 분할에서 어떻게 나타나는가?
• RQ5 무작위 대체 의미 이론을 QMLNs로 일반화할 수 있는가? 이는 기존 MLN 이론과 일관성을 유지하는가?

주요 결과

• 논문은 QMLNs에서의 MAP 및 주변 확률 추론을 표준 MLN에 다항시간 내에 환원하는 것을 증명하여, 기존 MLN 추론 엔진을 활용한 효율적 추론이 가능함을 보였다.
• 제안된 QMLNs에서 MLNs로의 번역 과정는 원래 QMLN 공식의 의미를 유지하면서도 크기 증가가 다항식 수준에 그친다.
• 통계적 기호 ∀∗의 의미는 균일하게 샘플링된 구체화에 대한 기대값으로 공식화되어 있으며, 이는 관계형 데이터의 비율을 원칙적으로 모델링할 수 있도록 한다.
• 논문은 표준 MLNs가 모든 기호가 ∀∗인 QMLNs의 분할과 동치임을 보여주며, 무작위 대체 의미 이론을 일반화함을 입증하였다.
• 관계적 주변 문제와 QMLNs 사이의 이중성 관계를 확립하였으며, MLNs와 최대 엔트로피 모델 간의 알려진 대응관계를 양적 설정으로 확장하였다.
• 논문은 2변수 QMLNs에서 추론이 WFOMC와 밀접하게 연결되어 있음을 밝혔으며, 수량 기호를 포함한 확장에 대해 복잡도 문제가 아직 미해결임을 강조하며 중요한 연구 과제로 지적하였다.