[논문 리뷰] Robust and Efficient Optimization Using a Marquardt-Levenberg Algorithm with R Package marqLevAlg

Philipps, Viviane, Hejblum, Boris P외 3명|arXiv (Cornell University)|2020. 09. 08.

Stochastic Gradient Optimization Techniques인용 수 8

한 줄 요약

이 논문은 Marquardt-Levenberg 방법에 기반한 강력하고 효율적인 국소 최적화 알고리즘인 R 패키지 marqLevAlg를 제시한다. 이 알고리즘은 엄격한 수렴 기준과 기울기의 병렬 계산을 통해 개선되었으며, 복잡한 통계 모델에서 표준 R 최적화기보다 잘못된 수렴을 방지하고 계산 시간을 크게 단축시킨다. 특히 고차원 또는 평가가 느린 설정에서 뛰어난 성능을 발휘한다.

ABSTRACT

Implementations in R of classical general-purpose algorithms for local optimization generally have two major limitations which cause difficulties in applications to complex problems: too loose convergence criteria and too long calculation time. By relying on a Marquardt-Levenberg algorithm (MLA), a Newton-like method particularly robust for solving local optimization problems, we provide with marqLevAlg package an efficient and general-purpose local optimizer which (i) prevents convergence to saddle points by using a stringent convergence criterion based on the relative distance to minimum/maximum in addition to the stability of the parameters and of the objective function; and (ii) reduces the computation time in complex settings by allowing parallel calculations at each iteration. We demonstrate through a variety of cases from the literature that our implementation reliably and consistently reaches the optimum (even when other optimizers fail), and also largely reduces computational time in complex settings through the example of maximum likelihood estimation of different sophisticated statistical models.

연구 동기 및 목표

• 복잡한 모델에서 느슨한 수렴 기준과 장시간 소요되는 계산 시간 등의 문제를 해결하기 위해 기존 R 최적화 패키지의 한계를 해결한다.
• 일阶 및 이阶 도함수를 기반으로 한 엄격한 수렴 기준을 통해 안정성 있는 국소 최적점 탐색을 가능하게 하여 안장점으로의 수렴을 방지한다.
• 각 반복에서 기울기와 헤시안 행렬을 병렬로 계산함으로써 고차원 또는 계산이 느린 최적화 문제에서 계산 시간을 단축시킨다.
• BFGS, L-BFGS-B, EM과 같은 표준 최적화기의 일반적 대체제로서 일반적 용도로 사용 가능한 강력하고 효율적인 솔루션을 제공한다.
• 실제 통계 응용 분야에서 복잡한 모델(예: 연합 모델, 혼합효과 모델)에 대해 개선된 수렴 기준과 병렬 처리를 갖춘 Marquardt-Levenberg 알고리즘이 우수한 성능을 보임을 입증한다.

제안 방법

• 곡률에 기반한 역동적으로 조정되는 헤시안 확장 기법을 통해 최하강법과 뉴턴-랩슨 방법을 통합한 수정된 Marquardt-Levenberg 알고리즘을 구현한다.
• 정교화된 헤시안 대각선 확장: ˜H(F(θ(k)))ii = H(F(θ(k)))ii + λk[(1 − ηk)|H(F(θ(k)))ii| + ηk·tr(H(F(θ(k})))], 이를 통해 양의 정부호성을 확보하고 진짜 헤시안으로의 수렴을 보장한다.
• 세 가지 기준 수렴 테스트를 적용한다: 파라미터 안정성, 목적함수 안정성, 최소점으로부터의 상대적 거리(RDM) — 정의: ∇(F)ᵀ(H⁻¹)∇(F)/m < ϵd.
• 고차원 문제에서 평가 속도를 향상시키기 위해 다중 코어를 활용해 일阶 및 이阶 도함수를 병렬로 계산한다.
• 성능에 민감한 컴ponent는 R과 Fortran90를 사용하여 R 패키지로 통합하며, 비제약 및 제약이 있는 파라미터 공간 모두를 지원한다.
• 최대우도추정 기반으로 선형 혼합모델, 연합모델, 잠재변수모델과 같은 복잡한 모델을 최적화할 수 있도록 지원한다.

실험 결과

연구 질문

• RQ1 엄격한 수렴 기준을 갖춘 Marquardt-Levenberg 알고리즘이 복잡한 최적화 문제에서 안장점으로의 잘못된 수렴을 방지할 수 있는가?
• RQ2 고차원 또는 계산이 복잡한 최적화 작업에서 기울기의 병렬 처리가 런타임 성능에 얼마나 기여하는가?
• RQ3 복잡한 통계 모델에서 marqLevAlg 패키지가 BFGS, L-BFGS-B, EM과 같은 표준 R 최적화기보다 수렴 신뢰도와 속도 면에서 뛰어나다는가?
• RQ4 다중 최적점이 존재하는 최적화 문제에서 marqLevAlg와 격자 탐색의 조합이 전역 최적점에 안정적으로 도달하는가?
• RQ5 기울기 계산의 병렬화가 복잡한 모델에서 총 런타임 면에서 다른 최적화기와 경쟁 가능하게 만들 수 있는가?

주요 결과

• marqLevAlg 패키지는 L-BFGS-B 및 BFGS와 같은 다른 최적화기들이 실패하는 고차원 또는 조건이 나쁜 설정에서도 진짜 최적점으로 안정적으로 수렴한다.
• RDM 수렴 기준 — 역헤시안과 기울기 기반 — 은 평평한 영역이나 안장점으로의 수렴을 효과적으로 방지하여 해의 신뢰도를 향상시킨다.
• 선형 혼합모델 추정에서 marqLevAlg는 optimParallel를 포함한 다른 최적화기들보다 빠른 속도를 보였으며, 효율적인 병렬 기울기 계산 덕분이었다.
• 일般적으로 30회 이내의 반복 수렴을 보이며, 반복당 계산 비용이 높음에도 불구하고 매우 효율적이다.
• 문헌에 기반한 복잡한 모델 벤치마킹에서 marqLevAlg는 특히 복잡한 연관 구조를 가진 연합모델에서 경쟁 방법들보다 더 높은 로그우도 값을 항상 달성했다.
• L-BFGS-B 및 BFGS 알고리즘이 수렴 기준이 부족해 최적의 결과를 도출하지 못하는 모델들에서 marqLevAlg는 수렴 문제를 성공적으로 해결했다.