[논문 리뷰] On-line Non-Convex Constrained Optimization

Olivier Massicot, Jakub Mareček|arXiv (Cornell University)|2019. 09. 16.

Advanced Bandit Algorithms Research참고 문헌 25인용 수 11

한 줄 요약

이 논문은 시간에 따라 변화하는 문제를 일반 미분방정식(OED)으로 모델링하고, 운동량 유사 정규화를 도입하여 온라인 비볼록 제약 최적화를 위한 예측-수정 알고리즘을 제안한다. 이 방법은 행렬 역행렬 계산을 피함으로써 반복당 O(n²)의 복잡도로 국소 최적해를 효율적으로 추적하며, 타당성과 강력성 조건과 같은 온건한 구조적 가정 하에 임계점으로의 전역 수렴을 증명한다.

ABSTRACT

Time-varying non-convex continuous-valued non-linear constrained optimization is a fundamental problem. We study conditions wherein a momentum-like regularising term allow for the tracking of local optima by considering an ordinary differential equation (ODE). We then derive an efficient algorithm based on a predictor-corrector method, to track the ODE solution.

연구 동기 및 목표

• 시간에 따라 변화하는 목표 함수와 제약 조건을 가진 온라인 비볼록 제약 최적화의 이론적 및 알고리즘적 이해 부족을 보완하기 위해.
• 시간에 따라 변화하는 비볼록 문제의 국소 최적해가 연속 시간 역학을 통해 추적될 수 있는 구조적 조건을 규명하기 위해.
• 행렬 역행렬 계산을 피하면서도 임계점으로의 수렴을 유지하는 스케일러블하고 저복잡도의 이산 알고리즘을 개발하기 위해.
• 이전 연구를 일반화하기 위해 제약 유형(등식 및 부등식)과 시간 연속성에 대한 가정을 완화(격리된 불연속성 허용)하기 위해.
• 리아푸노프 안정성 이론과 비이동 집합 분석을 사용하여 임계점 집합으로의 수렴에 대한 이론적 보장을 제공하기 위해.

제안 방법

• 운동량 유사 정규화를 사용하여 시간에 따라 변화하는 비볼록 최적화 문제를 연속 시간 ODE로 모델링하여 국소 최적해의 추적을 안정화한다.
• 예측-수정 통합 기법을 사용하여 ODE를 이산화하며, 예측은 함수 및 도함수 값에 기반하고 보정은 제약 조건 이행을 통해 이루어진다.
• 뉴턴 단계를 고차원 공간(u, Q)에서 재구성함으로써 행렬 역행렬 계산을 피하여 반복당 비용을 O(n³)에서 O(n²)로 감소시킨다.
• 타당성과 강력성 조건 하에 리아푸노프 안정성 이론과 리아푸노프 이동자 렘마를 적용하여 궤적이 임계점 집합으로 수렴함을 증명한다.
• 보조 변수 Q를 도입한 수정된 연속 뉴턴 방법을 제안하여 헤시안 역행렬을 근사함으로써 유계 프리셰트 도함수와 잘 조절된 역행렬 조건 하에 전역 수렴을 보장한다.
• 해당 문제의 목적 함수 f를 리아푸노프 함수로 사용하여 엄격한 국소 최소값의 안정성과 엄격한 국소 최대값의 불안정성을 분석한다.

실험 결과

연구 질문

• RQ1 시간에 따라 변화하는 비볼록 최적화 문제의 국소 최적해가 연속 동역학계에 의해 추적될 수 있는 조건는 무엇인가?
• RQ2 등식 및 부등식 제약 조건을 모두 가진 비볼록 문제에서 운동량 유사 정규화가 국소 최적해의 추적을 안정화시킬 수 있는가?
• RQ3 행렬 역행렬 계산을 피하면서도 임계점으로의 수렴을 유지하는 O(n²) 복잡도의 이산 시간 알고리즘을 설계할 수 있는가?
• RQ4 타당성, 강력성, 그리고 격리된 시간 불연속성과 같은 구조적 성질이 해 궤적의 장기적 행동에 어떤 영향을 미치는가?
• RQ5 비볼록 설정에서 임계점으로의 수렴을 증명하는 데 있어 리아푸노프 함수와 비이동 집합의 역할은 무엇인가?

주요 결과

• 타당성과 강력성 조건 하에 ODE 기반 연속 역학은 궤적이 유계이면서도 임계점 집합으로 수렴함을 보장한다.
• 엄격한 국소 최소값은 수렴적으로 안정하고, 엄격한 국소 최대값은 리아푸노프 분석(함수 f를 리아푸노프 함수로 사용)을 통해 불안정함을 입증한다.
• 예측-수정 알고리즘은 뉴턴 단계의 고차원 공간 재구성으로 인해 행렬 역행렬 계산을 피함으로써 반복당 O(n²) 복잡도를 달성한다.
• 유계 프리셰트 도함수와 잘 조절된 역행렬 조건 하에 람의 정리에 따라 잘 조절된 문제에 대해 전역 수렴이 보장된다.
• 문제가 항상 타당성과 강력성을 유지하는 한, 목표 함수와 제약 함수가 격리된 시간 불연속성을 가질 경우에도 이 방법은 임계점으로 수렴한다.
• 이론적 분석을 통해 해 궤적이 컴act 부분수준 집합 내에 유지됨을 확인하였으며, 이는 에이스케이프 딜레마 렘마에 의해 모든 양의 시간에 대해 존재함을 보장한다.