[論文レビュー] Distributed Nonconvex Optimization: Gradient-free Iterations and Globally Optimal Solution

Zhiyu He, Jianping He+2 more|arXiv (Cornell University)|Aug 1, 2020

Distributed Control Multi-Agent Systems参考文献 66被引用数 5

ひとこと要約

本稿では、1変数の目的関数を伴う制約付き非凸最適化のための勾配フリー分散アルゴリズムCPCAを提案する。チェビシェフ多項式近似、平均協調、多項式最適化を組み合わせることで、CPCAは幾何的収束速度を達成し、最小限の零次オракルクエリと通信効率を実現し、精度要件を満たした時点で分散的に終了可能となる$\backslash$backslashvarepsilon$-グローバル最適解を達成する。

ABSTRACT

Distributed optimization is concerned with using local computation and communication to realize a global aim of optimizing the sum of local objective functions. It has gained wide attention for a variety of applications in networked systems. This paper addresses a class of constrained distributed nonconvex optimization problems involving univariate objective functions, aiming to achieve global optimization without requiring local evaluations of gradients at every iteration. We propose a novel algorithm named CPCA, exploiting the notion of combining Chebyshev polynomial approximation, average consensus and polynomial optimization. The proposed algorithm is i) able to obtain $\epsilon$ globally optimal solutions for any arbitrarily small given accuracy $\epsilon$, ii) efficient in terms of both zeroth-order queries (i.e., evaluations of function values) and inter-agent communication, and iii) distributed terminable when the specified precision requirement is met. The key insight is to use polynomial approximations to substitute for general objective functions, and turn to solve an easier approximate version of the original problem. Due to the nice analytic properties owned by polynomials, this approximation not only facilitates efficient global optimization, but also allows the design of gradient-free iterations to reduce cumulative costs of queries and achieve geometric convergence when nonconvex problems are solved. We provide comprehensive analysis of the accuracy and complexities of the proposed algorithm.

研究の動機と目的

• 各イテレーションで勾配評価を必要としない分散非凸最適化において、グローバル最適解を達成する挑戦に取り組む。
• 1変数の局所的目的関数を伴うネットワーク化システムにおいて、従来の勾配ベース手法の高い計算コストと通信コストを克服する。
• ユーザーが指定した精度$\u0005\backslash$backslashvarepsilon$が満たされた時点で自動的に終了する分散アルゴリズムを設計する。
• 非凸目的関数の多項式近似を通じて効率的なグローバル最適化を実現し、多項式の解析的性質を活用する。
• グローバル最適性を保ちつつ、ゼロ次オラクルの使用を最小限に抑えることで、スケーラビリティと低累積クエリコストを実現する。

提案手法

• 各局所的非凸目的関数をチェビシェフ多項式で近似することで、元の非凸問題を取り扱いやすい多項式最適化部分問題に変換する。
• 平均協調を活用して、エージェント間でグローバルな多項式係数を協調的に計算し、中央集権的制御なしに分散的連携を実現する。
• グローバル最適化問題を多項式最適化タスクとして定式化し、多項式関数の凸性と解析的構造を活用して効率的な解法を実現する。
• 関数値クエリ（ゼロ次情報）に基づく勾配フリーの反復更新を設計することで、勾配ベース手法と比較して累積クエリコストを低減する。
• 収束が指定された$\u0005\backslash$backslashvarepsilon$-精度に達したことをモニタリングすることで、アルゴリズムに終了検出機能を統合し、分散的停止を可能にする。
• チェビシェフ多項式の近似誤差バウンドを用いて、元問題と近似問題との差を制御し、$\u0005\backslash$backslashvarepsilon$以内のグローバル最適性を保証する。

実験結果

リサーチクエスチョン

• RQ1 勾配評価を各イテレーションで必要としない分散非凸最適化アルゴリズムが、グローバル最適性を達成できるか？
• RQ2 多項式近似技術を協調プロトコルと統合することで、分散システムにおける効率的で勾配フリーのグローバル最適化をどのように実現できるか？
• RQ3 分散非凸最適化において、近似精度と計算・通信効率のトレードオフは何か？
• RQ4 多項式再定式化を通じて、非凸問題に対する勾配フリー分散アルゴリズムで幾何的収束を達成できるか？
• RQ5 指定された精度$\u0005\backslash$backslashvarepsilon$に達した際に、グローバルな調整を必要とせずに分散的に終了を達成する方法は何か？

主な発見

• 提案されたCPCAアルゴリズムは、任意に小さな$\u0005\backslash$backslashvarepsilon > 0$に対し、$\u0005\backslash$backslashvarepsilon$-グローバル最適解を達成し、理論的グローバル最適性を保証する。
• 非凸問題を解くにあたり、CPCAは幾何的収束速度を示す。これは、ゼロ次手法で一般的な部分線形収束と比較して顕著な改善である。
• CPCAは関数値評価のみに依存するため、ゼロ次クエリを最小限に抑え、勾配ベースの代替手法と比較して累積クエリコストを低減する。
• チェビシェフ多項式近似の使用により、近似誤差が有界となり、元問題に対する最適性ギャップを正確に制御可能となる。
• アルゴリズムはネイティブに分散的であり、精度要件$\u0005\backslash$backslashvarepsilon$が満たされた時点で外部監視なしに自動的に終了する。
• 協調ベースの係数集約により通信複雑度が効率的に管理され、ネットワークエージェント間でのスケーラビリティが維持される。