[논문 리뷰] Physics-inspired optimization for constraint-satisfaction problems using a digital annealer.

Maliheh Aramon, Gili Rosenberg외 3명|arXiv (Cornell University)|2018. 06. 22.

Parallel Computing and Optimization Techniques인용 수 8

한 줄 요약

이 논문은 완전히 연결된 이차 무제약 이진 최적화(QUBO) 문제를 해결하기 위해 시뮬레이션된 난방 기반의 물리학적 접근법을 사용하는 특수화된 CMOS 하드웨어 가속기인 후지츠 디지털 앤날레이터를 제시한다. 이는 병렬 시도 및 동적 탈출 메커니즘을 갖춘 시뮬레이션된 난방 기반 최적화 알고리즘을 기반으로 하며, 단일 코어 시뮬레이션된 난방 및 파라렐 템퍼링에 비해 완전히 연결된 스핀글라스 문제에서 솔루션 도달 시간에 약 두 개의 지수 차이에 해당하는 속도 향상을 달성한다. 이는 이중성 및 가우시안 결합을 가진 문제에서 성립한다.

ABSTRACT

The Fujitsu Digital Annealer (DA) is designed to solve fully connected quadratic unconstrained binary optimization (QUBO) problems. It is implemented on application-specific CMOS hardware and currently solves problems of up to 1024 variables. The DA's algorithm is currently based on simulated annealing; however, it differs from it in its utilization of an efficient parallel-trial scheme and a dynamic escape mechanism. In addition, the DA exploits the massive parallelization that custom application-specific CMOS hardware allows. We compare the performance of the DA to simulated annealing and parallel tempering with isoenergetic cluster moves on two-dimensional and fully connected spin-glass problems with bimodal and Gaussian couplings. These represent the respective limits of sparse versus dense problems, as well as high-degeneracy versus low-degeneracy problems. Our results show that the DA currently exhibits a time-to-solution speedup of roughly two orders of magnitude for fully connected spin-glass problems with bimodal or Gaussian couplings, over the single-core implementations of simulated annealing and parallel tempering Monte Carlo used in this study. The DA does not appear to exhibit a speedup for sparse two-dimensional spin-glass problems, which we explain on theoretical grounds. We also benchmarked an early implementation of the Parallel Tempering DA. Our results suggest an improved scaling over the other algorithms for fully connected problems of average difficulty with bimodal disorder. The next generation of the DA is expected to be able to solve fully connected problems up to 8192 variables in size. This would enable the study of fundamental physics problems and industrial applications that were previously inaccessible using standard computing hardware or special-purpose quantum annealing machines.

연구 동기 및 목표

• 기존의 고전적 알고리즘으로는 다루기 어려운 대규모 완전히 연결된 QUBO 문제를 위한 하드웨어 가속 솔버를 개발하는 것.
• 병렬 처리 및 동적 탈출 메커니즘을 통해 조밀하고 고도로 디제너레이트된 문제에서 최적화 성능을 향상시키는 것.
• 기존의 몬테카를로 방법, 예를 들어 시뮬레이션된 난방 및 등에너지 클러스터 이동을 갖춘 파라렐 템퍼링과의 비교를 통해 디지털 앤날레이터를 평가하는 것.
• 다양한 불순성 유형을 가진 희박한(2D) 및 완전히 연결된(3D) 스핀글라스 모델에서 디지털 앤날레이터의 확장성과 성능을 평가하는 것.
• 물리학 및 산업 분야에서 고전적으로 해결이 불가능한 문제를 해결할 수 있는 디지털 앤날레이터의 잠재력을 입증하는 것.

제안 방법

• 디지털 앤날레이터는 병렬 시도 기반의 시뮬레이션된 난방 알고리즘의 변종을 구현하여 동시에 여러 후보 솔루션을 평가한다.
• 지역 최소값에 갇히는 것을 방지하기 위해 동적 탈출 메커니즘을 적용하여 전역 최적해에의 수렴을 향상시킨다.
• 이 알고리즘은 최적화된 애플리케이션 특화 CMOS 하드웨어에서 실행되어 최대 1024개 변수에 걸쳐 대량의 병렬 처리를 가능하게 한다.
• 성능 평가는 이중성 및 가우시안 결합을 가진 2차원 및 완전히 연결된 스핀글라스 문제에서 평가되어 희박한 및 조밀한 문제 영역을 대표한다.
• 연구는 단일 코어 시뮬레이션된 난방 및 등에너지 클러스터 이동을 갖춘 파라렐 템퍼링의 단일 코어 구현과 비교한다.
• 완전히 연결된 문제에서의 스케일링 행동을 평가하기 위해 초기 버전의 파라렐 템퍼링 DA도 벤치마킹된다.

실험 결과

연구 질문

• RQ1 완전히 연결된 QUBO 문제에서 고전적 단일 코어 몬테카를로 방법에 비해 디지털 앤날레이터가 유의미한 속도 향상을 달성하는가?
• RQ2 디지털 앤날레이터는 병렬 아키텍처를 갖추고 있음에도 불구하고 희박한 2차원 스핀글라스 문제에서는 속도 향상을 보이지 않는 이유는 무엇인가?
• RQ3 이중성 불순성이 있는 완전히 연결된 문제에서 파라렐 템퍼링 DA 변종의 성능은 문제 크기에 따라 어떻게 스케일링되는가?
• RQ4 문제의 구조, 특히 희박성 대비 완전 연결성은 디지털 앤날레이터의 효과성에 어떤 영향을 미치는가?
• RQ5 표준 하드웨어나 양자 앤날레이터로는 해결이 불가능한 산업 및 기본 물리학 문제를 디지털 앤날레이터가 해결할 수 있는가?

주요 결과

• 디지털 앤날레이터는 이중성 및 가우시안 결합을 가진 완전히 연결된 스핀글라스 문제에서 단일 코어 시뮬레이션된 난방 및 파라렐 템퍼링에 비해 솔루션 도달 시간에 약 두 개의 지수 차이에 해당하는 속도 향상을 달성한다.
• 이 속도 향상은 희박한 2차원 스핀글라스 문제에서는 관찰되지 않으며, 저자들은 문제의 에너지 랜드스케이프 이론적 분석과 알고리즘의 한계로 이를 설명한다.
• 초기 구현된 파라렐 템퍼링 DA는 이중성 불순성이 있는 평균 난이도의 완전히 연결된 문제에서 개선된 스케일링 행동을 보였다.
• 현재 디지털 앤날레이터 아키텍처는 최대 1024개 변수를 지원하며, 다음 세대는 8192개 변수로 확장될 예정이다.
• 디지털 앤날레이터는 대규모 완전히 연결된 QUBO 인스턴스를 처리할 수 있는 능력 덕분에 이전에는 접근이 어려웠던 기본 물리학 문제와 산업 응용 분야의 연구를 가능하게 한다.
• 결과적으로 하드웨어 특화 알고리즘적 향상, 예를 들어 병렬 시도 및 동적 탈출은 조밀한 최적화 문제에서 성능 향상에 핵심적인 역할을 한다는 것이 입증되었다.