[논문 리뷰] Probabilistic Inductive Logic Programming Based on Answer Set Programming

Matthias Nickles, Alessandra Mileo|arXiv (Cornell University)|2014. 05. 04.

Logic, Reasoning, and Knowledge참고 문헌 25인용 수 17

한 줄 요약

이 논문은 소프트 및 하드 제약 조건을 기반으로 한 의미론을 바탕으로, 답변 집합 프로그래밍(ASP)에 기반한 새로운 확률적 인도적 논리 프로그래밍 프레임워크를 제안한다. 이 프레임워크는 일阶 공식과 ASP 규칙에 대한 확률적 주석을 가능하게 하며, 복잡한 관계적 도메인에서의 불확실성에도 정확한 추론과 학습을 달성한다.

ABSTRACT

We propose a new formal language for the expressive representation of probabilistic knowledge based on Answer Set Programming (ASP). It allows for the annotation of first-order formulas as well as ASP rules and facts with probabilities and for learning of such weights from data (parameter estimation). Weighted formulas are given a semantics in terms of soft and hard constraints which determine a probability distribution over answer sets. In contrast to related approaches, we approach inference by optionally utilizing so-called streamlining XOR constraints, in order to reduce the number of computed answer sets. Our approach is prototypically implemented. Examples illustrate the introduced concepts and point at issues and topics for future research.

연구 동기 및 목표

• 관계적 도메인에서의 확률적 지식 표현을 위한 표현력 있고 확장 가능한 프레임워크의 부족을 해결하기 위해.
• 소프트 및 하드 제약 조건을 사용하여 일阶 논리와 ASP 규칙에 대한 확률적 추론을 가능하게 하기 위해.
• 기울기 기반 최적화를 통해 관계적 데이터로부터 공식 가중치의 매개변수 추정을 지원하기 위해.
• 선택적 XOR 제약 조건의 단순화를 통해 추론의 계산 비용을 줄이기 위해.
• 구조 학습 및 성능 최적화 분야의 향후 연구를 위한 기반을 마련하기 위해.

제안 방법

• 불확실성을 표현하기 위해 일阶 공식과 ASP 규칙에 확률을 주석으로 부여한다.
• 소프트 및 하드 제약 조건을 통해 의미론을 부여하여 답변 집합 위의 확률 분포를 정의한다.
• 안정 모델을 계산하기 위해 답변 집합 솔버를 사용하며, 답변 집합 수를 줄이기 위해 선택적 XOR 제약 조건의 단순화를 적용할 수 있다.
• 수치 미분을 사용하여 기울기의 근사치를 도출하고, 기울기 기반 최적화를 위해 Barzilai-Borwein 방법을 적용한다.
• 관측된 예시의 가능도를 최대화하기 위해 기울기 상승을 적용한다. 이는 가설과 배경 지식를 기반으로 한다.
• 추론과 가중치 학습을 지원하는 프로토타입을 구현하였으며, 국소화 시나리오에서의 실증 평가를 수행하였다.

실험 결과

연구 질문

• RQ1 관계적 구조와 불확실성을 지원하는 논리 프로그래밍 프레임워크에서 확률적 지식를 효과적으로 표현할 수 있는가?
• RQ2 ASP가 공식 및 규칙 가중치에 대해 전체 표현력을 갖춘 확률적 추론을 지원하도록 확장될 수 있는가?
• RQ3 복잡한 관계적 데이터를 가진 확률적 논리 프로그램에 대해 매개변수 추정을 효율적으로 수행할 수 있는가?
• RQ4 단순화된 XOR 제약 조건은 답변 집합의 수를 줄이고 추론 확장성에 어떤 영향을 미치는가?
• RQ5 실제로 기울기 기반의 공식 가중치 학습은 얼마나 정확하고 효율적인가?

주요 결과

• 이 프레임워크는 문법적 제약 없이 임의의 일阶 공식과 ASP 규칙에 대한 확률적 주석을 지원한다.
• 100개 점을 가진 실내 국소화 예제에서 샘플링 없이 약 2250ms의 추론 시간을 기록하여 중간 크기 문제에 대한 실행 가능성 확인.
• 1000개 점에서는 샘플링을 통해야 추론이 가능해져 스케일러블한 기법의 필요성을 강조.
• 제거된 공식(moved(1))에 대한 매개변수 학습은 약 3170ms 내에 Pr(moved(1)) ≈ 0으로 수렴하여 데이터로부터 효과적인 학습을 확인.
• 닫힌 형태의 표현식이 없을 경우에도 작은 h값(예: √ε × wi)을 사용한 수치적 미분은 기울기 근사를 가능하게 한다.
• 양성 예외 및 가중치 없는 사실 모두에서 학습이 가능하여 예외 사양의 유연성을 지원한다.