[논문 리뷰] A Review on Bilevel Optimization: From Classical to Evolutionary Approaches and Applications

Ankur Sinha, Pekka Malo외 1명|arXiv (Cornell University)|2017. 05. 17.

Optimization and Variational Analysis참고 문헌 175인용 수 8

한 줄 요약

이 논문은 고전적 및 진화적 접근 방식을 포함한 이중선형 최적화에 대한 종합적인 리뷰를 제공하며, 해법 전략, 구조적 사상, 경제학, 물류 및 공공정책 분야의 응용에 중점을 두고 있다. 비볼록성과 NP-난이도 문제의 과제를 부각하고, 복잡한 사례를 다루는 데 진화 알고리즘을 지지하며, 다목적 및 불확실성 있는 이중선형 문제 분야의 핵심 연구 격차를 규명하고 있다.

ABSTRACT

Bilevel optimization is defined as a mathematical program, where an optimization problem contains another optimization problem as a constraint. These problems have received significant attention from the mathematical programming community. Only limited work exists on bilevel problems using evolutionary computation techniques; however, recently there has been an increasing interest due to the proliferation of practical applications and the potential of evolutionary algorithms in tackling these problems. This paper provides a comprehensive review on bilevel optimization from the basic principles to solution strategies; both classical and evolutionary. A number of potential application problems are also discussed. To offer the readers insights on the prominent developments in the field of bilevel optimization, we have performed an automated text-analysis of an extended list of papers published on bilevel optimization to date. This paper should motivate evolutionary computation researchers to pay more attention to this practical yet challenging area.

연구 동기 및 목표

• 고전적 수학적 프로그래밍에서 현대적 진화 계산 기법에 이르기까지 이중선형 최적화에 대한 체계적인 리뷰를 제공하는 것.
• 특히 반응 집합 및 최적 값 함수 사상과 같은 구조적 성질을 규명하고 분석하여 해법 절차를 단순화하는 것.
• 비볼록성, 비선형성 및 이산 변수를 포함한 문제에 대해 고전적 방법의 한계를 부각하고, 진화 알고리즘의 사용을 촉진하는 것.
• 다목적 이중선형 최적화 및 선호도나 변수의 불확실성 하에서의 이중선형 문제와 같은 개발이 부족한 연구 분야를 탐색하는 것.
• 특히 대규모 및 실세계 적용을 위한 진화 기반 이중선형 최적화에서의 열린 과제와 기회를 규명하여 향후 연구를 자극하는 것.

제안 방법

• 반응 집합 사상 및 최하위 수준 최적 값 함수 사상의 근사화를 제안하여 이중선형 문제를 단일선형 문제로 환원하는 것.
• 이중선형 문제에 대한 고전적 해법 방법, 예를 들어 KKT 재구성, 분할정복 및 바운드, 파arametric 프로그래밍을 검토하는 것.
• 비볼록성, 비선형성 및 이산 변수를 다룰 수 있는 능력 덕분에 진화 알고리즘(EAs)이 이중선형 문제 해결의 타당한 대안임을 분석하는 것.
• 메타모델링 기법, 특히 최하위 문제를 생략하거나 국소 근사화를 위한 보조 모델을 사용하는 방법을 논의하는 것.
• 대규모 문제를 위한 진화 기반 이중선형 알고리즘의 확장성을 높이기 위해 Apache Spark와 같은 분산 컴퓨팅 플랫폼의 활용을 제안하는 것.
• 결정 변수 및 선호도의 불확실성을 통합하는 방법을 분석하고, 강건한 이중선형 최적화를 위한 초보적 프레임워크를 제안하는 것.

실험 결과

연구 질문

• RQ1 반응 집합 및 최적 값 함수와 같은 구조적 사상으로 이중선형 최적화 문제를 어떻게 재구성할 수 있는가?
• RQ2 특히 비볼록성 및 NP-난이도 사례에서 고전적 이중선형 최적화 방법의 이론적 및 계산적 한계는 무엇인가?
• RQ3 진화 알고리즘이 비선형성, 비볼록성 및 이산 결정 변수 문제에 대해 어떤 방식으로 도전 과제를 효과적으로 해결할 수 있는가?
• RQ4 선호도나 변수의 불확실성 하에서의 다목적 이중선형 최적화 및 이중선형 문제 분야의 주요 연구 격차는 무엇인가?
• RQ5 Apache Spark와 같은 현대적 분산 컴퓨팅 플랫폼은 어떻게 진화 기반 이중선형 최적화 알고리즘의 확장성을 향상시킬 수 있는가?

주요 결과

• 이중선형 최적화는 강력한 NP-난이도 문제이며, 해의 최적성을 검증하는 것조차 NP-난이도이므로 고전적 방법의 적용 범위가 제한된다.
• KKT 재구성 및 분할정복 방법과 같은 고전적 접근 방식은 주로 선형 또는 볼록 사례에 대해만 효과적이다.
• 진화 알고리즘은 전역 탐색 능력과 비연속적이거나 비볼록적인 경로에 대한 강건성 덕분에 복잡한 이중선형 문제 해결에 잠재력을 보인다.
• 반응 집합 또는 값 함수 사상의 근사화를 통해 이중선형 문제를 단일선형 문제로 변환하면 해법 절차가 크게 단순화된다.
• 다목적 이중선형 최적화 분야는 여전히 탐색이 부족한 편이며, 특히 양단의 의사결정자 간의 상호작용과 불확실한 선호도에 대한 연구가 부족하다.
• Apache Spark와 같은 분산 컴퓨팅 프레임워크는 진화 기반 이중선형 최적화 알고리즘의 확장성에 잠재력을 지닌다. 다만 실용적 구현을 위해 여전히 알고리즘 혁신이 필요하다.