[論文レビュー] On Statistical Bias In Active Learning: How and When To Fix It

Sebastian Farquhar, Yarin Gal+1 more|arXiv (Cornell University)|Jan 27, 2021

Machine Learning and Algorithms参考文献 47被引用数 24

ひとこと要約

本論文は、プールベースのアクティブラーニングにおける統計的バイアスを形式化し、それを補正する無偏リスク推定量（PURE および LURE）を導入し、分散を分析し、モデルのパラメータ設定に応じてバイアスが有利か不利かを示す。

ABSTRACT

Active learning is a powerful tool when labelling data is expensive, but it introduces a bias because the training data no longer follows the population distribution. We formalize this bias and investigate the situations in which it can be harmful and sometimes even helpful. We further introduce novel corrective weights to remove bias when doing so is beneficial. Through this, our work not only provides a useful mechanism that can improve the active learning approach, but also an explanation of the empirical successes of various existing approaches which ignore this bias. In particular, we show that this bias can be actively helpful when training overparameterized models -- like neural networks -- with relatively little data.

研究の動機と目的

• プールベースのアクティブ学習で導入される統計的バイアスを形式化する。
• このバイアスを補正する無偏リスク推定量を提案する。
• 提案推定量の分散と一貫性の性質を分析する。
• モデルのレジーム全体で、アクティブ学習のバイアスが有益か有害かを説明する。
• 無偏推定に適合する取得提案に関する指針を提供する。

提案手法

• 取得提案分布 q を定義し、積極的にサンプリングされたデータ点上で無偏リスク推定量を構築する方法を示す。
• PURE を導入する: 単純な無偏リスク推定量で、項ごとに無偏な損失成分を持つ。
• LURE を導出する: 分散を低くし有限サンプル性質を改善するための再重み付けを伴うレベル付き無偏リスク推定量。
• PURE と LURE の無偏性と一貫性を証明し、それらの分散を特徴づける。
• 分散を素朴な biased 推定量と比較し、プールリスクを厳密に得る最適な提案について議論する。

実験結果

リサーチクエスチョン

• RQ1 アクティブ学習のサンプリングバイアスは、リスク推定と最適化目的にどのような影響を与えるか？
• RQ2 プールベースのアクティブ学習の下で母集団リスクを、無偏で低分散の推定量（PURE および LURE）で構築できるか？
• RQ3 提案された推定量は、素朴な偏り推定量と比較して分散と一貫性の点でどのように機能するか？
• RQ4 アクティブ学習のバイアスは、どのモデルレジーム（過少/過剰パラメータ化）で一般化と訓練に有益か、または有害か？
• RQ5 無偏推定の有効性における取得提案の役割は何か？

主な発見

• PURE は、任意のアクティブサンプリング列に対して母集団リスクの無偏推定量を提供する。
• LURE は PURE に比べて分散を低減しつつ、無偏かつ一貫性を保つ。
• 両推定量は、プールと提案分布に関する緩い条件の下で無偏性と一貫性を維持する。
• PURE の分散、特に LURE は、適切な取得戦略とともに素朴な biased 推定量より低くなることがある。
• 最適な取得（損失に比例したサンプリング）は、推定量が正確なプールリスクに等しくなることをもたらし、バイアス補正推定が役立つ状況を明らかにする。