[論文レビュー] Kernel Distributionally Robust Optimization

Jia-Jie Zhu, Wittawat Jitkrittum+2 more|arXiv (Cornell University)|Jun 12, 2020

Risk and Portfolio Optimization参考文献 51被引用数 11

ひとこと要約

本稿では、再現性ヒルバート空間（RKHS）を用いて柔軟な凸型の不確実性集合を構築するためのカーネル分布ロバスト最適化（Kernel DRO）を導入する。一般化された双対定理を証明することで、最悪ケースのリスク最小化をRKHS関数上の双対問題に再定式化し、リプシッツ連続性の仮定やカーネル固有の制約を必要としない一般の損失関数に対するロバスト最適化を可能にする。

ABSTRACT

We propose kernel distributionally robust optimization (Kernel DRO) using insights from the robust optimization theory and functional analysis. Our method uses reproducing kernel Hilbert spaces (RKHS) to construct a wide range of convex ambiguity sets, which can be generalized to sets based on integral probability metrics and finite-order moment bounds. This perspective unifies multiple existing robust and stochastic optimization methods. We prove a theorem that generalizes the classical duality in the mathematical problem of moments. Enabled by this theorem, we reformulate the maximization with respect to measures in DRO into the dual program that searches for RKHS functions. Using universal RKHSs, the theorem applies to a broad class of loss functions, lifting common limitations such as polynomial losses and knowledge of the Lipschitz constant. We then establish a connection between DRO and stochastic optimization with expectation constraints. Finally, we propose practical algorithms based on both batch convex solvers and stochastic functional gradient, which apply to general optimization and machine learning tasks.

研究の動機と目的

• リプシッツ定数の知識を必要とするか、多項式損失関数に制限される既存のロバスト最適化手法の限界を解消すること。
• 広範な損失関数とデータ駆動型の不確実性集合に適用可能な、分布ロバスト最適化（DRO）の一般枠組みを構築すること。
• 再現性ヒルバート空間（RKHS）と積分確率距離（IPM）を用いることで、既存のロバスト最適化および確率的最適化手法を統一すること。
• DROと期待値制約付き確率的最適化との間の関係を確立し、スケーラブルなアルゴリズムの開発を可能にすること。
• 錐双対性と関数解析を用いて理論的基盤を構築し、数学的モーメント問題における古典的双対結果を一般化すること。

提案手法

• RKHSノルムと積分確率距離（IPM）を用いて定義される不確実性集合内での確率測度に対するミニマックス最適化としてDRO問題を定式化する。
• プライマルDRO問題をRKHS関数上の双対問題に変換する一般化された双対定理（定理3.1）を証明し、関数空間上の凸最適化を可能にする。
• RKHSに基づくノルムとモーメントの上限を用いて不確実性集合を構築し、MMD（最大平均差）やIPMを用いた集合を含め、凸性と取り扱いやすさを保証する。
• 普遍的RKHSを活用することで、多項式的でもなくリプシッツ連続的でもない損失関数を含む広範なクラスの損失関数に適用可能であることを保証する。
• 双対問題の半無限大な錐形式を導出し、S-レマを用いて二次制約付き線形計画問題（QCLP）に再定式化する。このQCLPは半正定値計画法（SDP）により解ける。
• 大規模な機械学習タスクにおけるスケーラブルな学習を実現するため、確率的近似と関数勾配更新を組み合わせた確率的関数勾配DRO（SFG-DRO）アルゴリズムを提案する。

実験結果

リサーチクエスチョン

• RQ1 数学的モーメント問題における双対性は、多項式的またはリプシッツ連続的でない任意の損失関数へ一般化可能か？
• RQ2 RKHSに基づく不確実性集合は、モーメントの上限やIPMに基づく既存のさまざまなロバスト最適化手法をどのように統一できるか？
• RQ3 双対性フレームワークは、カーネル化されていないモデルへどの程度拡張可能か？カーネル化学習を超えたロバスト性を実現できるか？
• RQ4 分布ロバスト最適化と期待値制約付き確率的最適化との間にはどのような関係があり、それをアルゴリズム的にどのように活用できるか？
• RQ5 リプシッツ定数やカーネル構造の明示的知識が不要な、実用的でスケーラブルなDROアルゴリズムを開発できるか？

主な発見

• 一般化された双対定理（定理3.1）により、DROにおける最悪ケースリスクがRKHS関数上の凸最適化問題に再定式化可能であることが確立され、リプシッツ連続性や多項式損失関数の仮定が不要になる。
• RKHSノルムによって定義される不確実性集合は、入力空間がコンパクトであればコンパクトかつ凸であるため、最適解の存在が保証される。
• 普遍的RKHSを用いることで、多項式的でもなくリプシッツ連続的でもない損失関数を含む広範な損失関数クラスに適用可能であり、従来のDRO手法の主要な限界を克服する。
• DROと期待値制約付き確率的最適化との間の関係が明確に確立され、新規の確率的関数勾配DRO（SFG-DRO）アルゴリズムの設計が可能になった。
• SFG-DROアルゴリズムは、確率的近似と関数勾配更新を組み合わせることで、現代の機械学習タスクにスケーラブルに適用可能であり、実用的な効率性を達成した。
• 理論的分析により、双対性フレームワークが数学的モーメント問題の古典的結果を一般化していることが確認され、付録に完全な自己完結型の証明が提示された。