[論文レビュー] Ensembles for Uncertainty Estimation: Benefits of Prior Functions and Bootstrapping

Vikranth Dwaracherla, Wen Zheng+4 more|arXiv (Cornell University)|Jun 8, 2022

Explainable Artificial Intelligence (XAI)被引用数 6

ひとこと要約

本稿は、意思決定のためのアンサンブルベースの不確実性推定における事前関数とブートストラップの役割を調査する。理論的分析と回帰、分類、バンディット問題における実験を通じて、事前関数が連合予測不確実性を顕著に向上させることを示し、信号対雑音比（SNR）が入力ごとに変動する場合にブートストラップが追加の利点をもたらすことを検証した。

ABSTRACT

In machine learning, an agent needs to estimate uncertainty to efficiently explore and adapt and to make effective decisions. A common approach to uncertainty estimation maintains an ensemble of models. In recent years, several approaches have been proposed for training ensembles, and conflicting views prevail with regards to the importance of various ingredients of these approaches. In this paper, we aim to address the benefits of two ingredients -- prior functions and bootstrapping -- which have come into question. We show that prior functions can significantly improve an ensemble agent's joint predictions across inputs and that bootstrapping affords additional benefits if the signal-to-noise ratio varies across inputs. Our claims are justified by both theoretical and experimental results.

研究の動機と目的

• アンサンブルエージェントの不確実性推定のための訓練において、事前関数とブートストラップの重要性について、文献に見られる矛盾する主張を解消すること。
• 意思決定に効果的に寄与するための連合予測を重視し、周辺予測と連合予測の両方の性能に基づいてアンサンブルエージェントを評価すること。
• ブートストラップが事前関数を超えて測定可能な利点をもたらす条件を特定すること。
• 不確実性に配慮したエージェントのアンサンブル訓練における設計選択の理論的・実証的根拠を提供すること。

提案手法

• 損失関数の摂動を通じてアンサンブルエージェントを定式化し、一貫性のあるフレームワークを構築。事前関数とブートストラップを別々の訓練メカニズムとして統合する。
• ベイズ線形回帰の分析を通じて、理論的に事前関数が連合予測をどのように向上させ、モデルアンサンブルの不確実性を低減するかを示す。
• Neural TestbedとCIFAR-10からの合成データを用いたニューラルネットワークを用い、NLL、ブライアスコア、ECEなどの指標を通じて周辺および連合不確実性のキャリブレーションを評価する。
• 不均一分散線形バンディット環境でトンプソンサンプリングを適用し、累積リグレットを主な指標として用いて意思決定性能を評価する。
• アンサンブルエージェントのハイパーパrameter（例：事前分散、ブートストラップサンプリング）を調整し、リグレットを最小化し、不確実性推定を最適化する。
• アルゴリズム的および解析的ツールを用いて、無限アンサンブル設定における事後分布の近似を導出し、アンサンブルバリアント間の理論的比較を可能にする。

実験結果

リサーチクエスチョン

• RQ1 事前関数は、アンサンブルモデルにおける連合予測分布の質にどのように影響するか？
• RQ2 アンサンブル訓練において、事前関数を超えてブートストラップが追加の利点をもたらす条件は何か？
• RQ3 入力空間全体で信号対雑音比（SNR）が変動する場合、ブートストラップの有効性はどのように変化するか？
• RQ4 事前関数とブートストラップによって駆動される連合予測の質は、逐次的タスクにおける意思決定性能の向上に寄与するか？
• RQ5 実世界および合成データセットにおいて、事前関数やブートストラップを有する・ないアンサンブルエージェントは、周辺および連合不確実性キャリブレーションにおいてどのように比較されるか？

主な発見

• 事前関数は、意思決定における効率的な探索と適応に不可欠なアンサンブルエージェントの連合予測分布を顕著に改善する。
• 信号対雑音比（SNR）が入力空間全体で一様である場合、事前関数が適切にチューニングされていれば、ブートストラップに追加の利点はない。
• SNRが入力ごとに著しく変動する場合、事前関数のチューニングにかかわらず、ブートストラップが測定可能な性能向上をもたらす。
• 不均一分散線形バンディット問題では、事前関数とブートストラップの両方を備えたアンサンブルエージェント（ensemble-BP）が、それらを備えないエージェントよりも顕著に低い累積リグレットを達成する。
• 事前関数を欠いたアンサンブルエージェント（ensemble-N）は、ensemble-Pおよびensemble-BPよりも著しく劣る性能を示し、事前関数の必要性を強調している。
• CIFAR-10および合成データにおける実証的結果は、周辺指標のみに依存するのではなく、連合不確実性キャリブレーションが意思決定性能の予測により有効であることを確認している。