[논문 리뷰] Limits of CDCL Learning via Merge Resolution

Marc Vinyals, Chunxiao Li외 3명|arXiv (Cornell University)|2023. 01. 01.

Natural Language Processing Techniques인용 수 1

한 줄 요약

이 논문은 학습 체계를 분석하기 위해 형식적 모델로 머지 해석(MR)을 도입함으로써 CDCL 솔버의 증명 복잡도를 조사한다. 1-강화 학습(예: 1UIP)을 사용하는 CDCL 솔버가 해석을 최대 선형 오버헤드로 시뮬레이션할 수 있음을 증명하지만, 이 오버헤드가 날카로운 것임을 보여주며, 일부 공식은 선형 해석 증명이 가능하나 정사각형 수준의 CDCL 증명이 필요함을 보여주어, CDCL 성능의 근본적 한계를 반영함을 입증한다.

ABSTRACT

In their seminal work, Atserias et al. and independently Pipatsrisawat and Darwiche in 2009 showed that CDCL solvers can simulate resolution proofs with polynomial overhead. However, previous work does not address the tightness of the simulation, i.e., the question of how large this overhead needs to be. In this paper, we address this question by focusing on an important property of proofs generated by CDCL solvers that employ standard learning schemes, namely that the derivation of a learned clause has at least one inference where a literal appears in both premises (aka, a merge literal). Specifically, we show that proofs of this kind can simulate resolution proofs with at most a linear overhead, but there also exist formulas where such overhead is necessary or, more precisely, that there exist formulas with resolution proofs of linear length that require quadratic CDCL proofs.

연구 동기 및 목표

• CDCL 솔버가 해석 증명을 얼마나 잘 시뮬레이션하는지의 날카로움을 이해하기 위해.
• 해석 단계의 두 전제에서 모두 나타나는 '머지 리터럴'(merge literals)이 CDCL 학습 체계에서 수행하는 역할을 분석하기 위해.
• CDCL을 통한 해석 시뮬레이션의 오버헤드가 어떤 이상화된 모델에서도 피할 수 없다는 것을 보여주기 위해.
• Merge 해석(MR)의 증명 체계를 형식화하고 분석하여 CDCL 학습의 모델로 활용하기 위해.

제안 방법

• 1-강화 문장으로 학습하는 CDCL 솔버를 모델링하기 위해 새로운 증명 체계인 머지 해석(MR)을 도입함.
• 모든 추론이 두 전제에 공통된 리터럴을 포함하는(즉, '머지'하는) 형태의 제한된 해석 형태인 머지 해석(MR)을 정의함.
• 학습된 문장이 새로운 유닛 전파를 가능하게 해야 한다는 성질을 형식화하기 위해 '1-강화' 개념을 사용함.
• 선형 길이의 해석 증명이 가능한 반면 머지 해석에서는 정사각형 길이의 증명이 필요한 공식의 가족(F(3)m,n,ℓ)을 구성함.
• W-공리만을 사용하는 유도에서 문장 재사용이 불가능한 이유는 이러한 유도에서 리터럴의 비강화 성질 때문임을 증명함.
• 트리 유형의 유도에 대해 귀납적 추론을 사용하여 머지 해석이 해석을 최대 선형 오버헤드로 시뮬레이션할 수 있음을 보임.

실험 결과

연구 질문

• RQ1 CDCL 솔버는 해석 증명을 선형 오버헤드로만 시뮬레이션할 수 있는가, 아니면 초선형 오버헤드가 피할 수 없는가?
• RQ2 해석 단계의 두 전제에서 공통으로 나타나는 '머지 리터럴'이 CDCL 학습의 효율성에 어떤 역할을 하는가?
• RQ3 CDCL이 해석을 시뮬레이션할 때 발생하는 다항식 오버헤드는 날카로운가, 아니면 줄일 수 있는가?
• RQ4 1-강화 학습 체계(예: 1UIP)는 특정 경우에 증명 길이의 급격한 증가를 유발하는가?
• RQ5 머지 해석은 CDCL 학습의 본질적 복잡도를 포괄할 수 있으며, 만약 그렇다면 최적인가?

주요 결과

• 선형 길이의 해석 증명이 가능한 공식이 존재하지만, 머지 해석에서는 정사각형 길이의 증명이 필요함을 보여주어, CDCL 시뮬레이션의 오버헤드가 날카로운 것을 입증함.
• 1-강화 학습 체계(예: 1UIP)를 사용하는 CDCL 솔버는 최대 선형 오버헤드로 해석을 시뮬레이션할 수 있음을 확인하여 상한을 확인함.
• 머지 해석의 증명 체계는 CDCL 솔버의 근본적 한계를 반영한다: 학습된 문장에 반드시 머지 리터럴이 포함되어야 한다는 점.
• W-공리에만 의존하는 유도에서는 머지 리터럴이 없는 문장은 이전 문장을 재사용할 수 없으며, 이는 이러한 유도에서 리터럴의 비강화 성질 때문임.
• CDCL을 통한 해석 시뮬레이션의 오버헤드는 일반적으로 피할 수 없으며, 심지어 이상화된 모델에서도 마찬가지임을 증명함.
• 결과적으로 CDCL이 해석을 증명 길이 측면에서 최적화하지 못하며, 머지 해석은 이러한 복잡도의 날카로운 특성화를 제공함을 보여줌.