[論文レビュー] PAL : Pretext-based Active Learning

Shubhang Bhatnagar, Sachin Goyal+2 more|arXiv (Cornell University)|Oct 29, 2020

Machine Learning and Algorithms被引用数 5

ひとこと要約

PALは、自己教師付き回転予測により訓練された別個のスコアリングネットワークを用いてサンプルの新規性を評価し、マルチタスク学習とサブクエリベースの多様性を組み合わせることで、クエリの質を向上させる、プリテキストベースのアクティブラーニング手法である。この手法はクリーンなラベル下でも競争力ある精度を達成し、ラベルノイズ下では先行手法を著しく上回るが、同時に、代表が不足しているクラスに対しても良好に適応する。

ABSTRACT

The goal of pool-based active learning is to judiciously select a fixed-sized subset of unlabeled samples from a pool to query an oracle for their labels, in order to maximize the accuracy of a supervised learner. However, the unsaid requirement that the oracle should always assign correct labels is unreasonable for most situations. We propose an active learning technique for deep neural networks that is more robust to mislabeling than the previously proposed techniques. Previous techniques rely on the task network itself to estimate the novelty of the unlabeled samples, but learning the task (generalization) and selecting samples (out-of-distribution detection) can be conflicting goals. We use a separate network to score the unlabeled samples for selection. The scoring network relies on self-supervision for modeling the distribution of the labeled samples to reduce the dependency on potentially noisy labels. To counter the paucity of data, we also deploy another head on the scoring network for regularization via multi-task learning and use an unusual self-balancing hybrid scoring function. Furthermore, we divide each query into sub-queries before labeling to ensure that the query has diverse samples. In addition to having a higher tolerance to mislabeling of samples by the oracle, the resultant technique also produces competitive accuracy in the absence of label noise. The technique also handles the introduction of new classes on-the-fly well by temporarily increasing the sampling rate of these classes.

研究の動機と目的

• 実世界の応用において、オラクル（例：放射線科医）が誤ってラベルを付与する可能性がある状況で、アクティブラーニングがラベルノイズに対して脆弱であるという問題に取り組む。
• サンプル選択のための専用スコアリングネットワークを導入することで、タスク学習の目的と不確実性推定を分離する。
• 画像回転予測などの自己教師付きプリテキストタスクを通じてデータ分布をモデル化することで、誤ってラベル付けされた可能性のあるラベルに依存するのを減らす。
• 各クエリをサブクエリに分割し、それらが次第により異なるものになるように選択することで、クエリの多様性とカバレッジを向上させる。
• 初期プールにバイアスがある場合でも効果的に学習できるように、代表が不足しているクラスのサンプリングレートを動的に増加させる。

提案手法

• ラベル付きデータ上で自己教師付きプリテキストタスク（画像のランダム回転予測）を用いて訓練された別個のスコアリングネットワークを用い、誤ってラベル付けされた可能性のあるラベルに依存せずに、サンプルの新規性を推定する。
• スコアリングネットワークは、分類用の第二のヘッドを備えたマルチタスク学習を採用しており、自己教師付きヘッドと教師ありヘッドの間で正則化と相互補正が可能になる。
• 自己バランス機構を備えたハイブリッドスコア関数により、自己教師付きヘッドと分類ヘッドの両方からの不確実性を組み合わせ、その寄与度を動的に調整する。
• クエリをK個のサブクエリに分割し、各後続のサブクエリは、すべての以前のサブクエリに対して新規性を持つサンプルを選択することで、全クエリ内での多様性を保証する。
• サブクエリ間で、全クエリが最終化するまで、自己教師付きヘッドのチューニングのみを実行することで、不要なラベル付けコストを回避する。
• バックボーンネットワークは1イテレーションあたり1回のみ訓練され、スコアリングネットワークはラベル付きデータでのみ更新されるため、計算コストを最小限に抑える。

実験結果

リサーチクエスチョン

• RQ1 自己教師付きプリテキストタスクは、性能を維持しつつ、アクティブラーニングにおけるノイズの多いラベルへの依存を低減できるか？
• RQ2 自己教師付きと教師ありの不確実性推定を組み合わせることで、ラベルノイズに対する耐性はどのように向上するか？
• RQ3 サブクエリベースの多様性は、クエリのカバレッジとモデルの一般化性能をどの程度向上させるか？
• RQ4 初期データバイアス（例：欠落や代表が不足しているクラス）に対して、この手法はどの程度適応できるか？
• RQ5 自己バランス重みを備えたハイブリッドスコア関数は、単一ソースの不確実性推定を上回る性能を示すか？

主な発見

• PALは、クリーンなラベル下でも、高価なトレーニングスキームを必要としない最先端の手法と同等の競争力ある精度を、ベンチマーク画像認識およびセグメンテーションデータセットで達成する。
• 部分的なラベルノイズ下では、既存のアクティブラーニング手法を著しく上回り、オラクルによる誤ラベル付けに対して強い耐性を示す。
• アブレーションスタディの結果、自己教師付き、教師あり、多様性の3つの要素すべてが性能向上に寄与しており、フルメソッドが最も高い精度を達成することが確認された。
• t-SNEを用いた可視化では、サブクエリベースの多様性が、ラベルなしデータの均一なカバレッジをもたらし、クエリ分布における密集やギャップを低減していることが示された。
• PALは、バイアスのある初期プールにおいて代表が不足しているクラスを効果的に特定し、過剰にサンプリングすることで、それらのクラスの性能を迅速に向上させ、その後バランスの取れたサンプリングに戻すことができる。
• スコアリングネットワークのバックボーンとしてResNet-18からVGG-16に切り替えた場合でも、性能の低下が最小限に抑えられ、アーキテクチャの耐性があることが示された。