[논문 리뷰] Black-box optimization for integer-variable problems using Ising machines and factorization machines

Yuya Seki, Ryo Tamura외 1명|arXiv (Cornell University)|2022. 09. 01.

Metaheuristic Optimization Algorithms Research인용 수 8

한 줄 요약

이 논문은 Ising 기계와 세 가지 정수 인코딩 방법—이진, 원핫, 도메인 월 인코딩—을 사용하여 정수 변수 문제에 대한 블랙박스 최적화를 가능하게 하는 인자분해 기계 학습과 냉각 기반(Factorization Machine with Annealing, FMA) 프레임워크를 제안한다. 서피스 모델을 QUBO 문제로 공식화함으로써 FMA는 시뮬레이션 냉각을 활용해 검색 공간을 효율적으로 탐색하며, 수소 분자의 기저 상태 에너지 추정에서 높은 정확도를 달성한다. 특히 원핫 인코딩은 소규모 문제에 대해 특별히 유망한 성능을 보였다.

ABSTRACT

Black-box optimization has potential in numerous applications such as hyperparameter optimization in machine learning and optimization in design of experiments. Ising machines are useful for binary optimization problems because variables can be represented by a single binary variable of Ising machines. However, conventional approaches using an Ising machine cannot handle black-box optimization problems with non-binary values. To overcome this limitation, we propose an approach for integer-variable black-box optimization problems by using Ising/annealing machines and factorization machines in cooperation with three different integer-encoding methods. The performance of our approach is numerically evaluated with different encoding methods using a simple problem of calculating the energy of the hydrogen molecule in the most stable state. The proposed approach can calculate the energy using any of the integer-encoding methods. However, one-hot encoding is useful for problems with a small size.

연구 동기 및 목표

• 기존 Ising 기계 접근 방식이 비이진 변수 제약 조건으로 인해 처리할 수 없는 정수 변수 문제에 대한 블랙박스 최적화를 확장하기 위함.
• 이진, 원핫, 도메인 월 인코딩을 포함한 다양한 정수 인코딩 체계가 인자분해 기계 학습과 냉각 기반(FMA) 프레임워크 내에서 어떻게 성능에 영향을 미치는지 평가하기 위함.
• 시뮬레이션 냉각을 사용하여 양자 냉각 대신 최적화 과정을 분리함으로써, 정수 변수 블랙박스 최적화 문제 해결에서 FMA의 확장성과 정확도를 평가하기 위함.
• 현재 FMA 접근 방식의 한계를 특정화하기 위함이며, 특히 검색 공간 차원이 증가함에 따라 성능 저하가 발생하는 이유를 규명하기 위함.

제안 방법

• 이 방법은 블랙박스 함수의 서피스 모델로 이진 변수를 사용하는 인자분해 기계 학습(FM)을 사용하여, Ising 기계와 호환되는 QUBO 문제로 공식화한다.
• 정수 변수는 세 가지 다른 방법—이진 인코딩, 원핫 인코딩, 도메인 월 인코딩—을 사용해 이진 변수로 변환하며, 각 방법은 단일 정수 변수를 다수의 이진 변수로 매핑한다.
• 인코딩 제약 조건을 강제하기 위해 QUBO 해밀토니안에 페널티 항을 추가하며, 타당성을 확보하기 위해 페널티 계수를 p = 1,000으로 설정한다.
• 에너지 최소화를 위해 시뮬레이션 냉각(SA)을 사용하며, 비트 반전에 따른 에너지 차이의 상한값을 기반으로 정교하게 조정된 냉각 스케줄을 적용한다.
• 서피스 모델의 에너지를 최소화하여 블랙박스 함수에서 저비용 해를 탐색하도록 유도하며, 최종 해는 원래의 정수 공간으로 매핑된다.
• 프레임워크는 단순하고 해석 가능한 시스템인 수소 분자의 기저 상태 에너지 계산이라는 벤치마크 문제를 대상으로 평가된다.

실험 결과

연구 질문

• RQ1 이진, 원핫, 도메인 월 인코딩을 포함한 다양한 정수 인코딩 방법이 정수 변수 블랙박스 최적화에서 FMA의 성능에 어떻게 영향을 미치는가?
• RQ2 블랙박스 함수가 알려지지 않은 상황에서 FMA가 Ising 기계와 시뮬레이션 냉각을 활용해 정수 변수 문제에 대해 고정확도 해를 달성할 수 있는가?
• RQ3 검색 공간 차원이 증가함에 따라 FMA의 성능에 인코딩 방식이 어떤 영향을 미치는가?
• RQ4 소규모 문제에서 원핫 인코딩이 이진 또는 도메인 월 인코딩보다 수렴성과 정확도 측면에서 우수한 성능을 보이는가?
• RQ5 페널티 계수와 냉각 스케줄이 다양한 인코딩 체계에서 최적화 과정의 안정성에 어떤 역할을 하는가?

주요 결과

• 제안된 FMA 프레임워크는 세 가지 정수 인코딩 방법을 모두 사용하여 수소 분자의 기저 상태 에너지를 고정확도로 계산하는 데 성공했다.
• 소규모 문제에서 원핫 인코딩이 뛰어난 성능을 보였으며, 최적화 과정의 도전 과제가 적어 정확한 결과를 도출했다.
• 검색 공간 차원이 증가함에 따라 성능 저하가 관찰되었으며, 특히 원핫 인코딩의 경우 에너지 오차가 크게 증가했다.
• 블랙박스 함수 호출 횟수는 차원 증가에 따라 크게 증가했지만, 에너지 오차 감소율은 미미했다.
• 양자 냉각 대신 시뮬레이션 냉각을 사용함으로써 인코딩 효과를 명확히 분리할 수 있었으며, 성능 저하가 인코딩 방식과 검색 공간 크기에 기인함을 확인했다.
• 각 인코딩 방법에 대해 비트 반전에 따른 에너지 차이의 상한값을 해석적으로 유도하여 효과적인 냉각 스케줄 설계를 가능하게 하였다.