[논문 리뷰] Synthesizing Datalog Programs Using Numerical Relaxation

Xujie Si, Mukund Raghothaman외 2명|arXiv (Cornell University)|2019. 06. 01.

Machine Learning and Algorithms참고 문헌 12인용 수 14

한 줄 요약

이 논문은 Datalog의 수치적 연속화인 Difflog를 소개한다. Difflog는 규칙에 실수값 가중치를 부여하여 Datalog 프로그램 합성에 대한 연속 최적화를 가능하게 한다. 하이브리드 뉴턴-MCMC 최적화를 통해 예측된 출력 값과 목표 출력 값 간의 차이를 최소화함으로써, 복잡한 순환 및 고차원 프로그램을 포함한 34개 벤치마크에서 최신 기술보다 뚜렷한 성능 향상을 이룬 이산 Datalog 프로그램을 복원한다.

ABSTRACT

The problem of learning logical rules from examples arises in diverse fields, including program synthesis, logic programming, and machine learning. Existing approaches either involve solving computationally difficult combinatorial problems, or performing parameter estimation in complex statistical models. In this paper, we present Difflog, a technique to extend the logic programming language Datalog to the continuous setting. By attaching real-valued weights to individual rules of a Datalog program, we naturally associate numerical values with individual conclusions of the program. Analogous to the strategy of numerical relaxation in optimization problems, we can now first determine the rule weights which cause the best agreement between the training labels and the induced values of output tuples, and subsequently recover the classical discrete-valued target program from the continuous optimum. We evaluate Difflog on a suite of 34 benchmark problems from recent literature in knowledge discovery, formal verification, and database query-by-example, and demonstrate significant improvements in learning complex programs with recursive rules, invented predicates, and relations of arbitrary arity.

연구 동기 및 목표

• 특히 순환 및 고안된 술어를 포함한 복잡한 프로그램에 대해 예시로부터 Datalog 프로그램을 합성하는 데 발생하는 계산적 어려움을 해결하기 위해.
• 노이즈와 확장성 문제로 어려움을 겪는 기존의 조합적 탐색 및 통계적 학습 방법의 한계를 극복하기 위해.
• 규칙 선택 문제를 연속 최적화 문제로 재구성함으로써 효율적이고 강력한 합성 가능성을 확보하기 위해.
• 병렬 처리와 확률적 샘플링을 활용해 결정론적 방법을 초월한 합성 속도 향상을 위해.
• 연속적 연속화가 정확도와 속도 면에서 높은 정확도로 올바른 이산 Datalog 프로그램을 복원할 수 있음을 입증하기 위해.

제안 방법

• Datalog에 실수값 규칙 가중치를 도입하여, 가중치 기반 규칙 유도에 기반해 출력 튜플에 수치적 값을 할당하는 연속적 의미 체계인 Difflog를 구성한다.
• 계산된 출력 값과 목표 레이블(선호되는 경우 1, 불선호되는 경우 0) 간의 L2 손실을 최소화하는 방식으로 프로그램 합성을 재구성한다.
• 국소 수렴을 위해 뉴턴 방법을 사용하고, 국소 최소값과 안장점에서 벗어나기 위해 MCMC 기반 시뮬레이티드 앤날링을 결합한 하이브리드 최적화 전략을 적용한다.
• K-관계 프레임워크를 실현하기 위해 비터비 반군을 사용하여 증명 가능성을 고려한 수치적 추론을 가능하게 한다.
• 최적화 이후, 규칙 가중치를 임계값 처리하여 이산 Datalog 프로그램을 복원하며, Difflog와 전통적 Datalog 간의 의미적 대응 관계를 활용한다.
• 병렬 실행을 통해 다수의 독립적인 최적화 인스턴스를 동시에 실행함으로써 확률적 속도 향상과 초기화에 대한 강건성을 향상시킨다.

실험 결과

연구 질문

• RQ1 Datalog 규칙의 수치적 연속화가 복잡한 논리 프로그램에 대한 프로그램 합성의 확장성과 강건성 향상에 기여하는가?
• RQ2 뉴턴 방법과 MCMC 기반 샘플링을 조합한 전략이 규칙 선택의 비凸 최적화 표면을 해결하는 데 순수 최적화나 샘플링 전략보다 뛰어난가?
• RQ3 확률적 샘플링을 통한 연속 최적화가 결정론적 조합적 탐색에 비해 더 빠르고 신뢰할 수 있는 Datalog 프로그램 복원을 얼마나 빠르게 가능하게 하는가?
• RQ4 이론적 연속화 접근 방식이 순환 규칙, 고안된 술어, 임의의 어간수 관계를 유지하는 데 충분한 표현력을 갖추고 있는가?
• RQ5 이 방법이 지식 발굴, 형식적 검증, 데이터베이스 쿼리-예시 분야의 다양한 벤치마크에서 최신 기술 성능을 달성할 수 있는가?

주요 결과

• Difflog는 34개 벤치마크 중 32개에서 100% 성공률를 기록했으며, 단지 2개의 타임아웃(다운캐스트 및 rv-check)만 발생했고, 10개의 프로그램 분석 벤치마크에서 중앙값 실행 시간이 Alps를 초월했다.
• 하이브리드 최적화 전략은 뉴턴 방법 전용 버전 대비 31배, MCMC 전용 버전 대비 54배의 타임아웃 감소를 기록하여 탐색과 이용의 균형이 뛰어나다는 것을 입증했다.
• 더 많은 규칙 템플릿이 존재할수록 실행 시간이 다소 증가했지만, 학습 데이터 크기와 선형적으로 증가하여 실용적인 확장성은 양호하다.
• 32개의 병렬 실행에서 가장 빠른 실행 시간은 항상 Alps를 뛰어넘었으며, 병렬 실행을 통한 확률적 속도 향상이 관찰되었다.
• 이 방법은 순환, 고안된 술어, 임의의 어간수 관계를 포함한 복잡한 프로그램을 성공적으로 합성하여 표현력과 강건성의 우수성을 확인했다.
• 연속 최적화 결과에서 이산 Datalog 프로그램을 효과적으로 복원했으며, 성공한 모든 벤치마크에서 목표 출력 행동과 일치하는 최종 프로그램을 도출했다.