[논문 리뷰] Evidence for Long-Tails in SLS Algorithms

Florian Wörz, Jan-Hendrik Lorenz|arXiv (Cornell University)|2021. 07. 01.

Constraint Satisfaction and Optimization인용 수 1

한 줄 요약

이 논문은 Stochastic Local Search (SLS) 솔버가 Alfa 방법을 통해 수정된 논리적으로 동치인 SAT 인스턴스를 해결할 때, 런타임 분포가 장꼬리형(長尾型)임을 경험적이고 이론적으로 입증한다. 80년 치의 CPU 시간을 통한 통계 분석을 통해 저자들은 딱딱함이 로그정규분포를 따른다는 것을 보이며, 모든 장꼬리형 알고리즘, 특히 이 기법을 사용하는 SLS 솔버에 대해 리스타트가 성능 향상에 크게 기여함을 이론적으로 증명한다.

ABSTRACT

Stochastic local search (SLS) is a successful paradigm for solving the satisfiability problem of propositional logic. A recent development in this area involves solving not the original instance, but a modified, yet logically equivalent one. Empirically, this technique was found to be promising as it improves the performance of state-of-the-art SLS solvers. Currently, there is only a shallow understanding of how this modification technique affects the runtimes of SLS solvers. Thus, we model this modification process and conduct an empirical analysis of the hardness of logically equivalent formulas. Our results are twofold. First, if the modification process is treated as a random process, a lognormal distribution perfectly characterizes the hardness; implying that the hardness is long-tailed. This means that the modification technique can be further improved by implementing an additional restart mechanism. Thus, as a second contribution, we theoretically prove that all algorithms exhibiting this long-tail property can be further improved by restarts. Consequently, all SAT solvers employing this modification technique can be enhanced.

연구 동기 및 목표

• SLS 솔버가 문장 추가를 통해 수정된 논리적으로 동치인 SAT 공식을 해결할 때의 런타임 행동을 이해하기 위해.
• 이러한 수정된 인스턴스의 딱딱함이 장꼬리형 또는 무거운 尾형 분포를 따르는지 조사하기 위해.
• 이러한 솔버에 대해 리스타트 메커니즘이 성능 향상에 기여할 수 있는지 확인하기 위해.
• 장꼬리형 런타임 분포를 가진 모든 알고리즘에 대해 리스타트가 유용함을 이론적으로 증명하기 위해.

제안 방법

• 기본 SAT 공식에 논리적으로 동치인 문장을 추가하는 Alfa 방법을 사용하여 SLS 솔버로 해결하기 전에 런타임 분포를 경험적으로 분석한다.
• 광범위한 실험(80년 치의 CPU 시간)과 카이제곱 적합도 검정을 포함한 통계 도구를 사용하여 분포 적합도를 평가한다.
• 문장 수정 과정을 무작위 과정으로 모델링하여 솔버의 딱딱함에 미치는 영향을 평가한다.
• 위험률 함수 분석을 적용하고, 장꼬리형 분포에 대해 리스타트가 유리한 조건을 유도한다.
• 장꼬리형 분포에 대해 리스타트가 유용함을 미약한 정규성 조건 하에 이론적으로 증명한다.
• 분위수 함수 및 기대값 분석을 사용하여 리스타트에 의한 성능 향상 조건을 도출한다.

실험 결과

연구 질문

• RQ1 문장 추가를 통해 SAT 인스턴스를 수정하는 Alfa 방법이 SLS 솔버에서 장꼬리형 런타임 분포를 유도하는가?
• RQ2 empirical 증거에 따르면, Alfa의 런타임 분포가 로그정규분포로 가장 잘 기술되는가?
• RQ3 리스타트 메커니즘이 Alfa 방법을 사용하는 SLS 솔버의 성능을 크게 향상시킬 수 있는가?
• RQ4 장꼬리형 알고리즘에서 리스타트가 성능 향상에 기여하는 일반적인 이론적 근거가 있는가?
• RQ5 동일한 성능 향상 효과가 probSAT 및 YalSAT와 같은 다른 SLS 솔버로도 확장되는가?

주요 결과

• Schoening의 랜덤 워크 알고리즘(SRWA) 기반 SLS 솔버를 사용할 때 Alfa의 런타임 분포가 경험적으로 장꼬리형 분포를 따르며, 로그정규분포 적합에 강력한 증거가 있다.
• 카이제곱 통계량을 사용하여 전체 영역에서 로그정규분포의 적합도가 검증되었으며, 이는 추측 6을 지지한다.
• 로그정규분포 적합이 완벽하지 않더라도, 분포의 장꼬리 성격은 견고하게 확인되었으며, 이는 추측 8을 지지한다.
• 이론적 분석을 통해, 고장률이 0으로 수렴하고 두 번째 모멘트 조건이 성립하는 한, 모든 장꼬리형 분포에 대해 리스타트가 유리함을 증명한다.
• 특히 평균 런타임이 무한대이거나 고장률이 0으로 감소할 경우, Alfa 유형 알고리즘의 기대 런타임 향상은 보장된다.
• 초기 결과에 따르면, 히우리스틱 이유로 제외된 솔버는 다중모달 행동을 보이며, 로그정규분포보다 더 무거운 尾를 가질 수 있어 향후 연구의 잠재력이 있다.