[論文レビュー] Robust Optimization for Non-Convex Objectives

Robert F. Chen, Brendan Lucier+2 more|arXiv (Cornell University)|Jul 4, 2017

Machine Learning and Algorithms参考文献 10被引用数 45

ひとこと要約

本稿では、$α$-近似オラクルを用いたベイズ最適化へのロバスト最適化の還元を提案する。非凸目的関数に対して、学習者と敵対者との間のゼロサムゲームにおけるノーリグレットダイナミクスを活用することで、凸化された解空間内で$α$-近似ロバスト解を達成でき、ニューラルネットワーク学習およびインフルエンス最大化の実験的検証が行われた。

ABSTRACT

We consider robust optimization problems, where the goal is to optimize in the worst case over a class of objective functions. We develop a reduction from robust improper optimization to Bayesian optimization: given an oracle that returns $α$-approximate solutions for distributions over objectives, we compute a distribution over solutions that is $α$-approximate in the worst case. We show that de-randomizing this solution is NP-hard in general, but can be done for a broad class of statistical learning tasks. We apply our results to robust neural network training and submodular optimization. We evaluate our approach experimentally on corrupted character classification, and robust influence maximization in networks.

研究の動機と目的

• 個々の目的関数が正確に最適化しにくい非凸目的関数における不確実性下のロバスト最適化を扱う。
• 元の解空間が非凸であっても、$α$-近似ベイズオラクルを$α$-近似ロバスト解に変換する一般化手法を開発する。
• 元の空間における正確なロバスト最適化がNP困難であるため、一般に解を確率的（ランダム化）にすることの必要性を示す。
• 予測変数における損失関数が凸である統計的学習タスクでは、1つの決定的解がランダム化解と同等の近似保証を達成できることを示す。
• 複数のノイズモデル下でのニューラルネットワーク学習および不確実性下でのネットワークインフルエンス最大化における、本手法の実証的検証

提案手法

• 学習者（$α$-近似ベイズオラクルを有する）と敵対者が最悪の損失分布を選択するゼロサムゲームとしてロバスト最適化を定式化する。
• ゲームにノーリグレットダイナミクスを適用し、$T$ラウンドのうちに$O(T^{-1/2})$のリグレットで$α$-近似ミニマックス解に収束する。
• 最適化中に損失関数（例：ノイズタイプ）の分布を適応的に調整するため、パラメータ$γ$を用いた乗法的重み更新を用いる。
• 不適切な学習を可能にするために、凸化された解空間を導出する。最終的な解は元の解の分布として表される。
• 非凸な目的関数であっても、任意の$α$-近似ベイズオラクルを$α$-近似ロバスト解に還元する手法を導入する。
• 実データおよび合成データを用いた、入力にノイズが加わった文字分類およびネットワークインフルエンス最大化の実験により、手法を検証する。

実験結果

リサーチクエスチョン

• RQ1 非凸目的関数に対して、$α$-近似ベイズオラクルを用いて$α$-近似ロバスト解を構築できるか？
• RQ2 解を確率的（ランダム化）にしないでロバスト最適化を達成できるか、一般に不適切な学習は必要不可欠か？
• RQ3 乗法的重みパラメータ$γ$の選択が、実際の収束性および性能に与える影響は？
• RQ4 平均的最適化や個別損失最適化といったベースラインと比較して、本手法がロバスト学習タスクで優れた性能を示せるか？
• RQ5 ニューラルネットワーク学習や不確実性下のインフルエンス最大化といった実世界問題へ、本手法はスケーラブルか？

主な発見

• 提案手法は、非凸な目的関数であっても、$α$-近似ベイズオラクルを用いて$α$-近似ロバスト解を達成する。
• 解のランダム化は証明的に必要である：正確なベイズオラクルと多項式個の損失関数を有しても、元の解空間におけるロバスト最適化はNP困難である。
• 予測変数における損失関数が凸である統計的学習タスクでは、1つの決定的解がランダム化解と同等の近似保証を達成できる。
• ノイズ付き入力における文字認識の実験では、本手法が平均的最適化や個別損失最適化といったベースラインを著しく上回る性能を示した。
• インフルエンス最大化の実験では、Wikipedia Aでは最悪ケースのインフルエンスが94.33（90.61, 98.05）に達し、均一なベースライン（82.30）および摂動付き分布ベースライン（83.35）を上回った。統計的に有意な差が確認された。
• ロバスト最適化手順で得られた個々のシード集合は、Complete Aグラフでは最良のシード集合に対する平均比が0.733、Wikipedia Aでは0.995を示し、現実的グラフにおいて優れた性能を示した。