[논문 리뷰] Towards practical generic conic optimization

Chris Coey, Lea Kapelevich외 1명|arXiv (Cornell University)|2020. 05. 03.

Advanced Optimization Algorithms Research참고 문헌 5인용 수 7

한 줄 요약

이 논문은 Julia에서 구현된 일반적인 쌍대 내점법 해법기 Hypatia를 소개한다. 이는 효율적인 자기-동조(barrier) 오라클을 통해 이국적인 원뿔을 네이티브로 지원한다. 실험 결과, Hypatia를 사용해 자연스러운 형식으로 문제를 풀었을 때, 확장된 형식으로 문제를 풀었을 때와 비교해 해결 시간, 메모리 사용량, 수치적 안정성 측면에서 모두 뛰어난 성능을 보였다. 이는 여섯 가지 테스트 문제에 대해 확인된 바이다.

ABSTRACT

Many convex problems can be represented through conic extended formulations with auxiliary variables and constraints using only the small number of standard cones recognized by advanced conic solvers such as MOSEK 9. Such extended formulations are often significantly larger and more complex than equivalent conic natural formulations, which can use a much larger class of exotic cones. We define an exotic cone as a proper cone for which we can implement efficient logarithmically homogeneous self-concordant barrier oracles for the cone or its dual. Our goal is to establish whether a generic conic interior point method supporting natural formulations can outperform an advanced conic solver specialized for standard cones. We introduce Hypatia, a highly-configurable open-source conic primal-dual interior point solver with a generic interface for exotic cones. Hypatia is written in Julia and accessible through a native interface or the modeling language JuMP, and currently implements over two dozen predefined cones of interest. Using six example problems, we demonstrate significant advantages in terms of solve time, memory usage, and numerical robustness from solving natural formulations with Hypatia, compared to solving extended formulations with Hypatia or MOSEK.

연구 동기 및 목표

• 이국적인 원뿔을 네이티브로 지원하는 일반적인 원뿔 내점법이 표준 원뿔을 위한 전용 해법기보다 뛰어난 성능을 보일 수 있는지 평가하는 것.
• 효율적인 장벽 오라클을 통해 이국적인 원뿔을 네이티브로 지원하는 고도로 설정 가능한 오픈소스 원뿔 해법기를 개발하는 것.
• 자연스러운 원뿔 형식이 확장된 형식보다 계산 효율성과 수치적 안정성 측면에서 유리한 점을 입증하는 것.
• Julia와 JuMP를 통해 이국적인 원뿔을 위한 민첩하고 접근 가능한 인터페이스를 제공함으로써 원뿔 최적화 분야의 광범위한 도입을 촉진하는 것.

제안 방법

• Julia에서 이국적인 원뿔을 위한 일반적인 인터페이스를 갖춘 원시-쌍대 내점법 해법기인 Hypatia를 설계하고 구현하는 것.
• 두 개 이상의 정의된 이국적인 원뿔과 그 이중형에 대해 효율적인 로그-동조(self-concordant) 장벽 오라클을 구현하는 것.
• 사용자 편의를 위해 Julia API를 통한 네이티브 모델링과 JuMP 모델링 언어와의 통합을 지원하는 것.
• 표준 원뿔을 사용하는 확장된 형식이 필요 없도록, 이국적인 원뿔을 포함한 자연스러운 원뿔 형식으로 문제를 설정하는 것.
• 해결 시간, 메모리 사용량, 수치적 안정성 등의 지표를 사용해 여섯 가지 테스트 문제에서 성능을 벤치마킹하는 것.
• Hypatia가 자연스러운 형식에서 보이는 성능을, 동일한 확장된 형식에서 Hypatia 또는 MOSEK가 사용한 성능과 비교하는 것.

실험 결과

연구 질문

• RQ1 이국적인 원뿔을 네이티브로 지원하는 일반적인 원뿔 내점법이 표준 원뿔을 위한 전용 해법기보다 뛰어난 성능을 낼 수 있는가?
• RQ2 이국적인 원뿔을 포함한 자연스러운 원뿔 형식을 사용할 경우, 표준 원뿔을 사용하는 확장된 형식에 비해 계산 성능이 향상되는가?
• RQ3 어느 정도의 수준에서 이국적인 원뿔이 원뿔 최적화에서 메모리 효율성과 수치적 안정성 향상에 기여하는가?
• RQ4 Hypatia의 성능은 동일한 문제를 다른 형식으로 풀었을 때 MOSEK 9와 비교해 어떻게 다를까?

주요 결과

• Hypatia는 이국적인 원뿔을 포함한 자연스러운 형식으로 문제를 풀었을 때, 표준 원뿔을 사용하는 확장된 형식에 비해 해결 시간을 크게 단축시켰다.
• Hypatia를 사용해 자연스러운 형식으로 문제를 풀었을 때, 확장된 형식으로 문제를 풀었을 때와 비교해 메모리 사용량이 상당히 낮았다.
• Hypatia를 사용해 자연스러운 형식으로 문제를 풀었을 때, 수치적 안정성이 향상되었으며, 수렴 실패 수가 줄고 조건수(조건이 좋은 상태)가 유지됨을 통해 이를 입증했다.
• Hypatia가 자연스러운 형식에서 보이는 성능 이점은 여섯 가지 다양한 테스트 문제 전반에서 일관되게 나타나, 광범위한 적용 가능성을 보였다.