[論文レビュー] An efficient nonconvex reformulation of stagewise convex optimization problems

Rudy Bunel, Oliver Hinder+3 more|arXiv (Cornell University)|Oct 27, 2020

Adversarial Robustness in Machine Learning参考文献 44被引用数 4

ひとこと要約

本稿では、段階的凸最適化問題の非凸再定式化を提案し、それが投影勾配法で解ける境界制約付き問題に変換されることを示している。この手法は、最小限の双対ギャップで高速収束を達成し、偽の局所最適解を回避することでグローバル最適性を保証し、ニューラルネットワーク検証タスクにおいて、市販ソルバーや専用ソルバーより優れた性能を発揮する。

ABSTRACT

Convex optimization problems with staged structure appear in several contexts, including optimal control, verification of deep neural networks, and isotonic regression. Off-the-shelf solvers can solve these problems but may scale poorly. We develop a nonconvex reformulation designed to exploit this staged structure. Our reformulation has only simple bound constraints, enabling solution via projected gradient methods and their accelerated variants. The method automatically generates a sequence of primal and dual feasible solutions to the original convex problem, making optimality certification easy. We establish theoretical properties of the nonconvex formulation, showing that it is (almost) free of spurious local minima and has the same global optimum as the convex problem. We modify PGD to avoid spurious local minimizers so it always converges to the global minimizer. For neural network verification, our approach obtains small duality gaps in only a few gradient steps. Consequently, it can quickly solve large-scale verification problems faster than both off-the-shelf and specialized solvers.

研究の動機と目的

• 市販ソルバが大規模な設定（例：ニューラルネットワーク検証など）において顕著なスケーラビリティの欠如を示す段階的凸最適化問題に対処すること。
• 元の凸問題のグローバル最適解を保ちつつ、一次元法による効率的解法を可能にする非凸再定式化を開発すること。
• プライマルおよび双対の実行可能反復を自然に生成する手法を提供し、双対ギャップのモニタリングによる最適性の認証を簡素化すること。
• 非凸性にもかかわらず、偽の局所最適解を回避し、グローバル最小値に収束するアルゴリズムを設計すること。
• 大規模なニューラルネットワーク検証ベンチマークにおいて、DeepVerify や CVXPY を基盤とする手法を含む既存のソルバーより顕著な高速化を実証すること。

提案手法

• 元の段階的凸問題を、単純な境界制約のみを有する非凸問題に再定式化し、投影勾配降下法（PGD）の適用を可能にする。
• 滑らかで非凸な再定式化を用い、元の凸問題と同一のグローバル最適解を保ちつつ、偽の局所最適解がほとんどないようにする。
• 収束が偽の局所最適解に陥らないようにするため、適応的ラインサーチとステップサイズのバックトラッキングをPGDに組み込む。
• 再定式化の構造を活用して、同時にプライマルおよび双対の実行可能反復を生成し、リアルタイムでの双対ギャップ計算を可能にする。
• 効率的最適化のため、バックトラッキングラインサーチを用いたFISTAを適用し、相対的双対ギャップに基づく早期停止を実装する。
• 非凸目的関数の最適化を導くために、Simple-Psi-Minimization 原理を用いる。

実験結果

リサーチクエスチョン

• RQ1 段階的凸問題の非凸再定式化は、一次元法による高速収束を可能にしつつ、グローバル最適解を保持できるか？
• RQ2 提案された非凸定式化は、偽の局所最適解がほとんどない良好な最適化のランドスケープを持つか？
• RQ3 適応的ラインサーチを備えた投影勾配法は、非凸性にもかかわらず、グローバル最小値に信頼性高く収束できるか？
• RQ4 最適化の過程で双対ギャップはどのように変化するか？また、早期停止に効果的に利用できるか？
• RQ5 このアプローチは、市販ソルバーや DeepVerify のような専用ソルバーよりも、ニューラルネットワーク検証タスクで優れた性能を発揮できるか？

主な発見

• 非凸再定式化は、元の凸問題と同一のグローバル最適解を有し、偽の局所最適解はほとんど存在しない。
• 適応的ラインサーチを用いた投影勾配降下法は、偽の局所最適解を回避し、グローバル最小値に収束する。
• ニューラルネットワーク検証において、平均して10ステップ未満で双対ギャップが10^-2未満に低下し、高速かつ高精度な境界が得られる。
• CIFAR-10 ネットワークでは、本手法は DeepVerify より最大100倍、CVXPY を基盤とする手法より最大1000倍高速であり、特に中規模および大規模ネットワークで顕著な性能向上を示す。
• IBPで訓練されたネットワークでは、98–100%の早期停止率を達成しており、少数のステップで信頼性の高い収束が確認できる。
• SoftPlus などの退化しやすいまたは困難な活性化関数に対しても、アルゴリズム3を用いることで、DeepVerify が収束に失敗する状況でも最適解を正しく特定できる。