[論文レビュー] Practical Bayesian optimization in the presence of outliers

Rubén Martínez-Cantín, Kevin Tee+1 more|arXiv (Cornell University)|Dec 12, 2017

Advanced Multi-Objective Optimization Algorithms参考文献 22被引用数 13

ひとこと要約

本稿では、頑健なガウス過程回帰とスudent-t尤度、および動的外れ値診断を組み合わせたハイブリッドベイジアン最適化手法を提案する。外れ値をスケジューラーを用いて分類・除外することで、外部からの外れ値を意図的に導入していない制御された設定ですら、標準的な頑健回帰よりも高速な収束と優れた最適化結果を達成する。

ABSTRACT

Inference in the presence of outliers is an important field of research as outliers are ubiquitous and may arise across a variety of problems and domains. Bayesian optimization is method that heavily relies on probabilistic inference. This allows outstanding sample efficiency because the probabilistic machinery provides a memory of the whole optimization process. However, that virtue becomes a disadvantage when the memory is populated with outliers, inducing bias in the estimation. In this paper, we present an empirical evaluation of Bayesian optimization methods in the presence of outliers. The empirical evidence shows that Bayesian optimization with robust regression often produces suboptimal results. We then propose a new algorithm which combines robust regression (a Gaussian process with Student-t likelihood) with outlier diagnostics to classify data points as outliers or inliers. By using an scheduler for the classification of outliers, our method is more efficient and has better convergence over the standard robust regression. Furthermore, we show that even in controlled situations with no expected outliers, our method is able to produce better results.

研究の動機と目的

• ベイジアン最適化における外れ値の影響を軽減し、確率的代理モデルのバイアスを解消し、収束を促進する。
• 標準的な頑健回帰（例：Student-t尤度）がベイジアン最適化内での外れ値処理に限界を示す理由を評価する。
• 頑健なモデリングと能動的外れ値分類を組み合わせた二段階手法を開発し、より高いサンプル効率と収束性を実現する。
• 制御された実験設定ですら外れ値が存在し、標準的なベイジアン最適化の性能を損なうことがあることを示す。

提案手法

• 重い尾を持つ観測ノイズをモデル化するため、Student-t尤度を用いたガウス過程代理モデルを採用し、外れ値に対して頑健性を向上させる。
• 統計的診断に基づいて外れ値を特定・除外する動的外れ値分類スケジューラーを導入する。
• 二段階パイプラインに従う：まず全データに対して頑健回帰を適用し、次に診断統計を用いて点をインライアーまたは外れ値に分類する。
• 外れ値分類を繰り返し更新することで、モデルが時間経過とともにデータ品質の理解を精緻化できる。
• 更新されたインライアー集合に基づいて、獲得関数（期待改善）を最適化し、探索効率を向上させる。
• ハイパーパramータチューニング、ロボットプッシュ、ディープラーニングを含む複数のベンチマークで手法を評価する。

実験結果

リサーチクエスチョン

• RQ1 外部から導入された外れ値が存在する状況下で、標準的なStudent-t尤度を用いた頑健ベイジアン最適化は、効果的に収束しないのか？
• RQ2 頑健回帰と能動的外れ値診断を組み合わせることで、ベイジアン最適化における収束性とサンプル効率が向上するか？
• RQ3 非敵対的で制御された実験設定においても、外れ値が存在し、標準的なベイジアン最適化の性能を低下させるのか？
• RQ4 意図的に外れ値を導入しない状況下で、提案手法は標準的なベイジアン最適化に比べてどのように性能を発揮するか？

主な発見

• 提案手法は、ハイパーパramータチューニングやロボットプッシュを含むすべてのベンチマークで、標準的なStudent-t尤度を用いた頑健ベイジアン最適化を上回る性能を発揮した。
• 外部から意図的に導入された外れ値が存在しない状況でも、提案手法は標準的なベイジアン最適化よりも優れた収束性を示し、制御環境内に潜在的な外れ値が存在することを示唆した。
• VAEおよびフィードフォワードニューラルネットワークの実験では、20％のシミュレート外れ値下でも、提案手法はより速い収束と低い最終的目的関数値を維持した。
• 動的外れ値スケジューラーは、誤ったデータポイントを効果的に特定・除外でき、モデルの精度と最適化の安定性を向上させた。
• 実験的結果から、標準的な頑健回帰のみでは最適な性能が達成できないことが判明し、外れ値の影響を完全に軽減できないことが示された。
• 本研究では、外れ値が明示的に導入されていなくても、ベイジアン最適化が外れ値に敏感であることが明らかになった。これは、能動的外れ値検出の重要性を強調する。