[논문 리뷰] A Simple Effective Heuristic for Embedded Mixed-Integer Quadratic Programming

Reza Takapoui, Nicholas Moehle외 2명|IMT Institutional Repository (IMT School for Advanced Studies Lucca)|2015. 09. 28.

Advanced Optimization Algorithms Research참고 문헌 81인용 수 4

한 줄 요약

이 논문은 비볼록 제약 조건을 가진 임베디드 혼합정수 quadratic 프로그래밍 문제를 빠르게 해결하기 위한 ADMM 기반 휴리스틱을 제안한다. 이는 고품질의 타당해에 빠르게 수렴할 수 있도록 하며, 임베디드 플랫폼에서 몇 초 내로 거의 전역 최적해를 달성한다. 이 방법은 브랜치 앤 바운드보다 빠르게 작동하면서도 차량 제어, 파wr 컨버전, 신호 복원 작업 전반에서 리라크스 앤 라운드와 동등하거나 이를 초월하는 해의 품질을 제공한다.

ABSTRACT

In this paper we propose a fast optimization algorithm for approximately minimizing convex quadratic functions over the intersection of affine and separable constraints (i.e., the Cartesian product of possibly nonconvex real sets). This problem class contains many NP-hard problems such as mixed-integer quadratic programming. Our heuristic is based on a variation of the alternating direction method of multipliers (ADMM), an algorithm for solving convex optimization problems. We discuss the favorable computational aspects of our algorithm, which allow it to run quickly even on very modest computational platforms such as embedded processors. We give several examples for which an approximate solution should be found very quickly, such as management of a hybrid-electric vehicle drivetrain and control of switched-mode power converters. Our numerical experiments suggest that our method is very effective in finding a feasible point with small objective value; indeed, we find that in many cases, it finds the global solution.

연구 동기 및 목표

• 임베디드 시스템에서 비볼록 제약 조건을 가진 혼합정수 2차 프로그래밍 문제를 계산적으로 효율적인 휴리스틱으로 해결하는 것.
• 브랜치 앤 바운드와 같은 정확한 방법에서 발생하는 다항식 시간 복잡도 worst-case 런타임 문제를 해결하는 것. 이러한 방법들은 실시간 임베디드 응용 분야에서 실용적이지 않다.
• 매번 실행 시 q, b, X와 같은 매개변수가 변화하나 P와 A는 그대로 유지되는 문제 인스턴스를 신속하게 해결할 수 있도록 하는 것.
• 실시간 제어 및 신호 처리 응용 분야에서 해의 품질, 런타임, 구현의 단순성 간의 균형을 고려한 정확한 방법의 실용적 대안을 제공하는 것.
• 하이브리드 차량 제어, 스위치 모드 파wr 컨버터, MIMO 신호 복원과 같은 임베디드 응용 분야에서의 효과성을 입증하는 것.

제안 방법

• 원래의 비볼록 문제의 볼록 리라크스를 해결하기 위해 수정된 교대 방향 방법의 승수(ADMM)를 사용한다.
• 최소 제곱 해에서의 이탈을 처벌하기 위해 정규화 항을 도입하여 수렴성과 해의 품질을 향상시킨다.
• 증강 라그랑주 이중 상승 단계를 사용해 원시 변수와 이중 변수를 번갈아 업데이트한다.
• 각 ADMM 업데이트 이후 비볼록 제약 조건은 투영 단계를 통해 강제로 이행하여 최종 반복에서 타당성을 확보한다.
• 단일 시작점으로 초기화하고 고정된 반복 수를 수행하므로 임베디드 배포에 적합하다.
• 계산적으로 경량화되어 엄격한 시간 제약 조건을 가진 보편적인 임베디드 프로세서에서 실행 가능하도록 설계되어 있다.

실험 결과

연구 질문

• RQ1 간단한 ADMM 기반 휴리스틱이 실시간 임베디드 시스템에서 비볼록 제약 조건을 가진 혼합정수 2차 프로그래밍 문제에 대해 거의 전역 최적해를 달성할 수 있는가?
• RQ2 임베디드 제어 및 신호 복원 작업에서 제안된 휴리스틱이 리라크스 앤 라운드 및 브랜치 앤 바운드 방법과 비교해 해의 품질과 런타임 측면에서 어떻게 성능을 내는가?
• RQ3 실제 임베디드 응용 분야에서 이 휴리스틱이 전역 최적해 또는 작은 목적 함수 값을 가진 타당해를 얼마나 잘 찾을 수 있는가?
• RQ4 다양한 초기화 전략과 매개변수 조합이 다른 문제 인스턴스에서 이 방법의 성능은 어떻게 되는가?
• RQ5 모델 예측 제어와 같은 응용에서 P와 A는 일정하지만 q, b, X가 변화하는 문제에 대해 이 휴리스틱을 효과적으로 적용할 수 있는가?

주요 결과

• 스위치 모드 파워 컨버터 제어 문제에서 이 휴리스틱은 2초 미만으로 타당해를 찾았고, MOSEK는 전역 최적해를 찾는 데 4시간 이상 소요되었다.
• 1,000개의 MIMO 신호 복원 인스턴스 중 95%에서 ADMM 기반 휴리스틱은 리라크스 앤 라운드 방법과 동등하거나 더 낫지 않은 비트 오류율(BER)을 달성했다.
• 목적 함수 값의 차이 히스토GRAM을 보면, ADMM 해의 목적 함수 값이 95%의 경우에서 리라크스 앤 라운드 해보다 우수하거나 동일했다.
• 프리프로세싱을 포함한 문제 인스턴스당 평균 런타임은 단 80밀리초였으며, 이는 브랜치 앤 바운드 방법보다 훨씬 빠르게 작동했다.
• 하이브리드 차량 드라이브트레인 제어 문제에서 이 휴리스틱은 전역 최적해와 실질적으로 구분할 수 없을 정도로 우수한 성능을 보였다.
• 다양한 초기화 전략과 문제 유형에 걸쳐 뚜렷한 강건성을 보였으며, 항상 임베디드 시간 제약 조건 내에서 고품질의 타당해를 찾는 데 성공했다.