[논문 리뷰] Of Starships and Klingons: Bayesian Logic for the 23rd Century

Kathryn Blackmond Laskey, Paulo Costa|arXiv (Cornell University)|2005. 07. 01.

Bayesian Modeling and Causal Inference참고 문헌 15인용 수 30

한 줄 요약

이 논문은 관계적이고 동적이며 개방된 세계 도메인에서 불확실성 하에서 일관되고 확장 가능한 추론을 가능하게 하는 형식적 체계인 다중 엔티티 베이지안 네트워크(MEBN)를 소개한다. MEBN은 일阶논리(FOL)와 베이지안 확률 이론을 통합하여 유한한 수의 상호 관련된 엔티티와 관계를 표현할 수 있으며, 일관되고 유한하게 공리화된 FOL 이론의 모델들에 대해 일관된 공동 확률 분포의 존재를 증명한다. 이는 재귀적이고 확장 가능하며 논리적으로 기반된 확률적 추론을 가능하게 한다.

ABSTRACT

Intelligent systems in an open world must reason about many interacting entities related to each other in diverse ways and having uncertain features and relationships. Traditional probabilistic languages lack the expressive power to handle relational domains, whereas classical first-order logic is sufficiently expressive but lacks a coherent plausible reasoning capability. Recent years have seen the emergence of a variety of approaches to integrating first-order logic, probability, and machine learning. This paper presents Multi-entity Bayesian networks (MEBN), a formal system that integrates First Order Logic (FOL) with Bayesian probability theory. MEBN extends ordinary Bayesian networks to allow representation of graphical models with repeated sub-structures. We present the logic using an example inspired by the Paramount Series Star Trek. MEBN semantics integrates random variables as formalized in mathematical statistics with model theoretic semantics for first-order logic.

연구 동기 및 목표

• 기존 베이지안 네트워크가 관계적이고 동적이며 개방된 세계 도메인에서 상호작용하는 불확실한 엔티티를 모델링하는 데 한계를 가진다는 문제를 해결하기 위해.
• 일阶논리의 표현력과 베이지안 네트워크의 불확실성 처리 능력을 결합한 형식론을 개발하기 위해.
• 모든 일관되고 유한하게 공리화된 일阶논리 이론의 모델들에 대해 논리적 일관성과 잘 정의된 공동 확률 분포의 존재를 보장하기 위해.
• 베이지안 조건부 확률을 통해 새로운 공리를 추가함으로써 이론을 업데이트할 수 있는 메커니즘을 통해 재귀적이고 확장 가능한 추론을 가능하게 하기 위해.
• 불확실하고 개방된 환경, 예를 들어 세마틱 웹와 같은 환경에서 확률적 온톨로지와 지식 표현의 기초를 제공하기 위해.

제안 방법

• MEBN는 MFrags(MEBN 조각)를 사용하여 랜덤 변수들에 대한 조건부 확률 분포를 표현하며, 각 조각은 관련된 엔티티와 관계에 대한 국소적 분포를 정의한다.
• 시스템은 엔티티 식별자에 대한 자리표시자가 있는 매개변수화된 랜덤 변수(RVs)를 사용하여 도메인 내 임의의 수의 엔티티에 대해 인스턴스화를 가능하게 한다.
• MEBN 이론은 일관성 제약 조건을 만족하는 MFrags로 구성되며, 이는 모든 인스턴스화된 랜덤 변수들에 대해 유일한 공동 확률 분포를 보장한다.
• 반복적인 하위 구조와 시간 매개변수화된 RVs를 통해 동적 모델링을 허용함으로써 재귀적이고 시간적 의존성을 지원한다.
• 베이지안 조건부 확률을 통해 추론과 이론 정밀화를 가능하게 하여 새로운 공리를 추가하고 관측 결과에 따라 모델을 업데이트할 수 있다.
• 엄밀한 의미론을 기반으로 하여, 무한하거나 유계가 아닌 도메인에서도 일관성과 논리적 일관성을 보장한다.

실험 결과

연구 질문

• RQ1 일阶논리와 베이지안 확률을 통합하는 형식적 체계가 관계적이고 불확실하며 개방된 세계 도메인에서 일관된 추론을 가능하게 할 수 있는가?
• RQ2 무한한 수의 엔티티와 그들의 동적이고 재귀적인 관계를 표현하는 확률 모델이 일관성이나 처리 가능성의 손실 없이 가능할 수 있는가?
• RQ3 모든 일관되고 유한하게 공리화된 일阶논리 이론의 모델들에 대해 유일하고 잘 정의된 공동 확률 분포를 정의할 수 있는가, 심지어 무한 도메인에서도?
• RQ4 논리적 및 확률적 일관성을 유지하면서 새로운 공리를 이론에 점진적으로 추가할 수 있는가?
• RQ5 결과로 도출된 형식론이 센서 데이터의 시간적 의존성과 같은 재귀 패턴을 자연스럽고 확장 가능하게 지원할 수 있는가?

주요 결과

• MEBN는 일관되고 유일한 공동 확률 분포가 존재함을 증명하여, 일관되고 유한하게 공리화된 일阶논리 이론의 모든 모델들에 대해 글로벌하게 일관된 분포를 보장한다. 이는 무한 도메인에서도 성립한다.
• 이 프레임워크는 표준 베이지안 네트워크와 동적 베이지안 네트워크의 핵심적 한계를 극복하여 재귀적이고 동적 관계를 자연스럽게 지원한다.
• 재사용 가능한 매개변수화된 조각들을 통해 무한한 수의 엔티티와 관계를 표현함으로써 확장 가능하고 확장 가능한 추론을 가능하게 한다.
• 유한한 수의 단계 내에서 모순를 탐지할 수 있는 증명 이론을 제공하며, 정확한 확률적 질의에 수렴한다.
• 베이지안 조건부 확률을 통한 점진적 이론 정밀화를 지원하여 관측 결과와 새로운 공리를 바탕으로 모델을 업데이트할 수 있다.
• 형식론은 확률적 온톨로지의 기초로 충분히 일반적이며, 스타 트렉 시나리오에의 적용과 세마틱 웹를 위한 PR-OWL로의 확장에 의해 이를 입증하고 있다.