[논문 리뷰] An efficient nonconvex reformulation of stagewise convex optimization problems

Rudy Bunel, Oliver Hinder외 3명|arXiv (Cornell University)|2020. 10. 27.

Adversarial Robustness in Machine Learning참고 문헌 44인용 수 4

한 줄 요약

이 논문은 단계적 볼록 최적화 문제를 비볼록으로 재구성하여, 투영된 경사하강법을 통해 해결할 수 있는 경계 제약 문제로 변환하는 방법을 제안한다. 이 방법은 낮은 이중성 갭과 함께 빠른 수렴을 달성하며, 임의의 국소 최소값을 피함으로써 전역 최적해를 보장한다. 신경망 검증 작업에서 기성 소프트웨어 및 전용 솔버보다 뛰어난 성능을 발휘한다.

ABSTRACT

Convex optimization problems with staged structure appear in several contexts, including optimal control, verification of deep neural networks, and isotonic regression. Off-the-shelf solvers can solve these problems but may scale poorly. We develop a nonconvex reformulation designed to exploit this staged structure. Our reformulation has only simple bound constraints, enabling solution via projected gradient methods and their accelerated variants. The method automatically generates a sequence of primal and dual feasible solutions to the original convex problem, making optimality certification easy. We establish theoretical properties of the nonconvex formulation, showing that it is (almost) free of spurious local minima and has the same global optimum as the convex problem. We modify PGD to avoid spurious local minimizers so it always converges to the global minimizer. For neural network verification, our approach obtains small duality gaps in only a few gradient steps. Consequently, it can quickly solve large-scale verification problems faster than both off-the-shelf and specialized solvers.

연구 동기 및 목표

• 기성 솔버가 대규모 설정(예: 신경망 검증)에서 단계적 볼록 최적화 문제에 대해 낮은 확장성 문제를 해결하기 위해.
• 기존 볼록 문제의 전역 최적해를 유지하면서도 일阶 최적화 방법을 효율적으로 사용할 수 있도록 비볼록 재구성을 개발하기 위해.
• 초기 해와 이중 해의 탇합 가능성을 동시에 생성함으로써, 이중성 갭 모니터링을 통한 최적성 검증을 단순화하는 방법을 제공하기 위해.
• 비볼록 재구성 문제임에도 불구하고 가짜 국소 최소값을 피하고 전역 최소값으로 수렴하는 알고리즘을 설계하기 위해.
• 기존 솔버(DeepVerify 및 CVXPY 기반 방법 포함)에 비해 대규모 신경망 검증 벤치마크에서 뚜렷한 속도 향상을 보여주기 위해.

제안 방법

• 기존 단계적 볼록 문제를 단순 경계 제약 조건만을 가진 비볼록 문제로 재구성하여, 투영된 경사하강법(PGD)의 적용을 가능하게 한다.
• 부드럽고 비볼록인 재구성을 사용하여 원래 볼록 문제와 동일한 전역 최적해를 유지하면서도 가짜 국소 최소값이 거의 없는 성질을 확보한다.
• 수렴이 가짜 국소 최소값으로 이르는 것을 방지하기 위해, 적응형 선 탐색과 스텝 크기 후퇴 기법을 PGD에 통합한다.
• 재구성의 구조를 활용하여 동시에 원본 해와 이중 해의 타당성을 확보함으로써 실시간 이중성 갭 계산을 가능하게 한다.
• 효율적인 최적화를 위해 백트래킹 선 탐색을 통한 FISTA를 적용하며, 상대적 이중성 갭 기반 조기 정지 전략을 적용한다.
• 비볼록 목적 함수 최적화를 지시하기 위해 Simple-Psi-Minimization 원리를 적용한다.

실험 결과

연구 질문

• RQ1 단계적 볼록 문제의 비볼록 재구성은 전역 최적해를 유지하면서도 일阶 최적화 방법을 통해 더 빠른 수렴을 가능하게 할 수 있는가?
• RQ2 제안된 비볼록 재구성은 가짜 국소 최소값이 거의 없거나 전혀 없는 유리한 최적화 경로를 가지는가?
• RQ3 적응형 선 탐색을 통한 투영된 경사하강법이 비볼록성에도 불구하고 전역 최소값으로 안정적으로 수렴할 수 있는가?
• RQ4 최적화 과정에서 이중성 갭은 어떻게 변화하는가? 그리고 조기 정지를 위해 효과적으로 활용될 수 있는가?
• RQ5 이 방법은 기성 솔버와 전용 솔버(예: DeepVerify) 모두를 뛰어넘는 성능을 신경망 검증 작업에서 보일 수 있는가?

주요 결과

• 비볼록 재구성은 원래 볼록 문제와 동일한 전역 최적해를 가지며, 거의 모든 가짜 국소 최소값이 존재하지 않는다.
• 적응형 선 탐색을 통한 투영된 경사하강법은 가짜 국소 최소값을 피하고 전역 최소값으로 수렴한다.
• 신경망 검증 작업에서, 평균적으로 10회 이내의 반복 안에 이중성 갭이 10^-2 이하로 떨어지며, 빠르고 정확한 경계를 확보한다.
• CIFAR-10 네트워크에서 제안된 방법은 DeepVerify 대비 최대 100배 빠르며, CVXPY 기반 솔버 대비 최대 1000배 빠르며, 특히 중간 및 대규모 네트워크에서 두드러진 성능 향상을 보인다.
• IBP로 훈련된 네트워크에서는 98–100%의 조기 정지 비율을 달성하여, 소수의 단계 내에 안정적으로 수렴함을 나타낸다.
• SoftPlus와 같은 열악하거나 복잡한 활성화 함수를 가진 경우조차도, 알고리즘 3를 사용한 본 방법은 DeepVerify가 수렴하지 못하는 경우에도 최적해를 성공적으로 찾는다.