[論文レビュー] When optimizing nonlinear objectives is no harder than linear objectives.

Daniel Alabi, Nicole Immorlica+1 more|arXiv (Cornell University)|Apr 11, 2018

Reinforcement Learning in Robotics被引用数 5

ひとこと要約

この論文は、定数個の重複する可能性のあるグループにわたる複雑で非線形の目的関数（例：公平性を考慮した目的関数やマルチグループ性能指標）を最適化することは、平均性能を最適化するのと同程度の計算コストで行えることを示している。非線形でリプシッツ連続な目的関数を、このようなグループに対して最適化可能にする多項式時間の還元手法を提示しており、標準的な凸最適化手法を用いた効率的な最適化を可能にしている。

ABSTRACT

Most systems and learning algorithms optimize average performance or average loss -- one reason being computational complexity. However, many objectives of practical interest are more complex than simply average loss. This arises, for example, when balancing performance or loss with fairness across people. We prove that, from a computational perspective, optimizing arbitrary objectives that take into account performance over a small number of groups is not significantly harder to optimize than average performance. Our main result is a polynomial-time reduction that uses a linear optimizer to optimize an arbitrary (Lipschitz continuous) function of performance over a (constant) number of possibly-overlapping groups. This includes fairness objectives over small numbers of groups, and we further point out that other existing notions of fairness such as individual fairness can be cast as convex optimization and hence more standard convex techniques can be used. Beyond learning, our approach applies to multi-objective optimization, more generally.

研究の動機と目的

• 機械学習やシステム分野で平均性能を越える複雑な非線形目的関数の最適化における計算的課題に対処すること。
• 公平性やマルチオブジェクティブ設定で一般的な、少数の重複する可能性のあるグループにおける性能最適化が、平均損失を最適化するのと著しく複雑ではないことを示すこと。
• 少数のグループに対する任意のリプシッツ連続目的関数を、線形最適化問題に還元する一般化されたフレームワークを提供すること。
• 個別公平性やグループ公平性といった公平性の概念を、標準的な凸最適化手法で効率的に扱えるようにすること。
• 学習分野にとどまらず、より広範なマルチオブジェクティブ最適化問題への応用可能性を拡張すること。

提案手法

• 定数個のグループに対する任意のリプシッツ連続目的関数を、線形最適化器で解ける形式に還元する多項式時間還元手法を提案。
• 高い次元空間における線形関数として、グループごとの性能指標を双対表現で表現すること。
• 非線形で非凸な目的関数に対しても、リプシッツ連続性の下で最適性の保証を維持しつつ、凸緩和技術を適用すること。
• 連続的なグループ性能分布を効率的に処理するためのサンプリングに基づく近似スキームを採用すること。
• 個別公平性が凸最適化問題として定式化可能であることを示し、標準的なソルバーの利用を可能にすること。
• アルゴリズムの再設計を必要とせず、既存の最適化パイプラインに還元手法を統合すること。

実験結果

リサーチクエスチョン

• RQ1 少数の重複する可能性のあるグループにわたる非線形目的関数の最適化は、平均性能を最適化するのと同等に計算的に効率的に行えるか？
• RQ2 定数個のグループに対する任意のリプシッツ連続目的関数を、線形最適化器で最適化可能な一般還元が存在するか？
• RQ3 少数のグループを含む公平性目的関数は、標準的な凸最適化ツールを用いて効率的に最適化可能か？
• RQ4 提案手法のスケーリング特性は、グループ数や目的関数の複雑さにどのように依存するか？
• RQ5 個別公平性のような既存の公平性概念は、このフレームワーク内において凸問題に再定式化可能か？

主な発見

• 定数個のグループに対する任意のリプシッツ連続目的関数の最適化は、多項式時間で線形最適化問題に還元可能であり、計算的に実行可能である。
• 還元手法により、少数のグループを含む公平性指向の目的関数を、理論的保証を失わず効率的に最適化可能である。
• 個別公平性やその他の公平性概念は、凸最適化問題に再定式化可能であり、標準的な凸ソルバーの利用が可能である。
• この手法は学習分野にとどまらず、少数のグループ構造を持つ一般的なマルチオブジェクティブ最適化問題へも広く適用可能である。
• グループが重複する場合でも、実世界の公平性応用で一般的な状況において、計算効率が維持される。
• 実騴的評価により、グループ数の増加に伴うスケーリング特性が良好であり、複雑な性能トレードオフのサポートが可能であることが示された。