[논문 리뷰] borealis - A generalized global update algorithm for Boolean optimization problems

Zheng Zhu, Chao Fang외 1명|arXiv (Cornell University)|2016. 05. 30.

Theoretical and Computational Physics참고 문헌 40인용 수 13

한 줄 요약

borealis는 평행 온도 Monte Carlo와 등에너지 클러스터 이동을 조합하여 부울 최적화 문제에 대한 새로운 글로벌 업데이트 알고리즘을 제안한다. 이는 광범위한 단계공간 샘플링과 局부 최소값에서의 효율적 탈출을 가능하게 하며, 특히 큰 크기이거나 과잉 제약 조건이 있는 경우에서 MAX-SAT, 정점 커버, 가중치가 있는 XOR-MAX-2SAT 문제에서 최신 기술인 CCLS 및 NuMVC를 크게 능가한다.

ABSTRACT

Optimization problems with Boolean variables that fall into the nondeterministic polynomial (NP) class are of fundamental importance in computer science, mathematics, physics and industrial applications. Most notably, solving constraint-satisfaction problems, which are related to spin-glass-like Hamiltonians in physics, remains a difficult numerical task. As such, there has been great interest in designing efficient heuristics to solve these computationally difficult problems. Inspired by parallel tempering Monte Carlo in conjunction with the rejection-free isoenergetic cluster algorithm developed for Ising spin glasses, we present a generalized global update optimization heuristic that can be applied to different NP-complete problems with Boolean variables. The global cluster updates allow for a wide-spread sampling of phase space, thus considerably speeding up optimization. By carefully tuning the pseudo-temperature (needed to randomize the configurations) of the problem, we show that the method can efficiently tackle optimization problems with over-constraints or on topologies with a large site-percolation threshold. We illustrate the efficiency of the heuristic on paradigmatic optimization problems, such as the maximum satisfiability problem and the vertex cover problem.

연구 동기 및 목표

• MAX-SAT 및 정점 커버와 같은 NP-난이도 부울 최적화 문제에서 局부 최소값에 갇히는 문제를 해결하기 위해.
• 광범위한 단계공간 샘플링을 가능하게 하는 글로벌 변수 업데이트를 통한 확장성 있고 일반적인 히우리스틱을 개발하기 위해.
• 과잉 제약 조건이 있는 문제와 높은 지점 투과 임계값을 가지는 시스템에서의 성능 향상을 위해.
• 기본 벤치마크 인스턴스에서 기존 알고리즘인 CCLS 및 NuMVC에 비해 뛰어난 스케일링 및 속도 향상을 입증하기 위해.

제안 방법

• 평행 온도 Monte Carlo와 등에너지 클러스터 이동을 조합하여 부울 변수의 대규모 재배열을 가능하게 한다.
• 가짜 온도 매개변수를 사용하여 구성의 무작위화를 도모하고 局부 최소값에서의 탈출을 촉진한다.
• 부분적 및 가중치가 있는 MAX-SAT 문제에 새로운 가중치 체계를 적용하여 에너지 장벽을 감소시키되, 해 공간의 왜곡 없이 구현한다.
• 다양한 온도 간의 레플리카 교환을 통해 열역학적 평형화와 동적 샘플링을 향상시킨다.
• 여러 변수를 동시에 뒤집는 클러스터 업데이트를 도입하여 수렴 속도 향상과 자동상관도 감소를 달성한다.
• 무게 없는 및 가중치가 있는 MAX-SAT, NAE-MAX-SAT, 최소 정점 커버 등 다양한 문제 유형에 이 방법을 적응시킨다.

실험 결과

연구 질문

• RQ1 평행 온도와 클러스터 이동을 조합한 글로벌 업데이트 알고리즘이 NP-완전 부울 최적화 문제에서 국소 탐색 히우리스틱을 능가할 수 있는가?
• RQ2 높은 지점 투과 임계값을 가지는 과잉 제약 조건이 있는 문제에서 borealis는 어떻게 성능을 발휘하는가?
• RQ3 등에너지 클러스터 이동이 순수한 평행 온도 대비 수렴성과 스케일링에 상당한 향상을 이끌 수 있는가?
• RQ4 다양한 벤치마크 인스턴스에서 CCLS 및 NuMVC와 같은 최신 기술보다 borealis가 얼마나 뛰어나게 성능을 발휘하는가?
• RQ5 이 알고리즘은 부울 변수를 가진 다양한 NP-완전 문제에 일반화될 수 있는가?

주요 결과

• 무작위로 무게 없는 MAX-SAT 인스턴스에서 모든 시스템 크기에서 borealis는 CCLS를 모두 능가하며, 더 나은 스케일링과 낮은 솔루션 도달 시간을 보였다.
• M/N=1인 가중치가 있는 XOR-MAX-2SAT에서, 클러스터 업데이트를 적용한 borealis는 CPU 시간과 스케일링 모두에서 CCLS를 능가하는 성능을 보였다.
• 삼각격자에서의 평면 NAE-MAX-SAT에서, borealis는 순수한 PT 대비 시스템 크기가 증가할수록 점점 증가하는 속도 향상을 달성했다.
• 지점 투과 임계값 pc=0.33인 무작위 그래프에서의 최소 정점 커버 문제에서, borealis는 NuMVC보다 더 나은 스케일링을 보였으며, N이 커질수록 점점 증가하는 속도 향상을 보였다.
• 중간 문장 비율의 가중치가 있는 부분 MAX-2SAT에서 borealis는 CCLS 수준의 상당한 성능 향상을 보였다.
• 클러스터 이동의 포함은 에너지 장벽을 효과적으로 감소시켜 복잡한 비용 함수 표면의 효율적 탐색을 가능하게 하였다.