[論文レビュー] Fidelity-Weighted Learning

Mostafa Dehghani, Arash Mehrjou+3 more|arXiv (Cornell University)|Nov 8, 2017

Machine Learning and Data Classification参考文献 72被引用数 7

ひとこと要約

本稿では、教師モデルが提供するラベル品質推定に基づいて勾配更新を動的に重み付けする半教師付きの学生・教師フレームワーク、忠実度加重学習（FWL）を提案する。FWLは、高品質なラベルと弱いラベルの両方を効果的に活用することで、文書ランキングおよびセンチメント分類の分野で最先端の手法を上回る性能を発揮する。

ABSTRACT

Training deep neural networks requires many training samples, but in practice training labels are expensive to obtain and may be of varying quality, as some may be from trusted expert labelers while others might be from heuristics or other sources of weak supervision such as crowd-sourcing. This creates a fundamental quality versus-quantity trade-off in the learning process. Do we learn from the small amount of high-quality data or the potentially large amount of weakly-labeled data? We argue that if the learner could somehow know and take the label-quality into account when learning the data representation, we could get the best of both worlds. To this end, we propose "fidelity-weighted learning" (FWL), a semi-supervised student-teacher approach for training deep neural networks using weakly-labeled data. FWL modulates the parameter updates to a student network (trained on the task we care about) on a per-sample basis according to the posterior confidence of its label-quality estimated by a teacher (who has access to the high-quality labels). Both student and teacher are learned from the data. We evaluate FWL on two tasks in information retrieval and natural language processing where we outperform state-of-the-art alternative semi-supervised methods, indicating that our approach makes better use of strong and weak labels, and leads to better task-dependent data representations.

研究の動機と目的

• ラベルデータが不足しており、品質がばらつきがちな状況、特に専門家ラベルと弱いラベルが混在する現実世界の設定において、深層ニューラルネットワークを効果的に学習する課題に対処すること。
• すべてのラベルが同等に信頼できると仮定せずに、高品質なラベルと大規模な弱いラベルの両方を活用する手法を開発すること。
• ラベル品質の不確実性を学習プロセスに組み込むことで、モデルの汎化性能と学習効率を向上させること。
• 個々のラベルの忠実度に基づいて動的に学習更新を調整することで、より良いデータ表現学習を可能にすること。

提案手法

• FWLは、学生ネットワークを、強力なラベルと弱いラベルの両方を用いてターゲットタスクで学習する学生・教師フレームワークを採用する。
• 教師ネットワークは、少量の高品質ラベルへのアクセスを活用して、各弱いラベルの品質に関する事後確信度を推定する。
• 学生ネットワークへの勾配更新は、教師が推定したラベル忠実度に応じてサンプルごとに調整され、低信頼度のラベルに対しては更新を軽減する。
• 学生および教師ネットワークはデータから共同で学習され、教師は明示的なラベル品質のアノテーションを必要とせず、ラベル信頼性を学習する。
• 本手法は、教師の各ラベルに対する信頼度に応じてパラメータ更新をスケーリングする忠実度加重損失を用いる。これにより、ノイズが多いか不確実な予測に対しては効果的に重みを下げる。
• このフレームワークは、文書ランキングやセンチメント分類などのタスクに適用され、信頼できる監視信号を優先することで、頑健な表現を学習する。

実験結果

リサーチクエスチョン

• RQ1 少量の高品質ラベルと大規模な弱いラベルを組み合わせることで、深層学習モデルが性能を向上させることができるか？
• RQ2 ラベル品質の不確実性はどのように推定され、学習プロセスに組み込まれるか？その結果、モデルの汎化性能が向上するか？
• RQ3 ラベル忠実度に基づいて勾配更新を動的に重み付けることで、標準的な半教師付き学習手法よりも収束が速くなり、性能が向上するか？
• RQ4 教師モデルは、強力なラベルの少量のセットにのみアクセスできる状況でも、明示的な品質アノテーションがなくてもラベル品質を推定できるか？

主な発見

• FWLは、文書ランキングおよびセンチメント分類タスクにおいて、最先端の半教師付き学習手法を上回る性能を発揮する。
• 低忠実度ラベルの更新を軽減することで、収束が速くなり、汎化性能が向上する。
• 教師モデルは、少量の強力なラベルでの学習のみで、高い精度でラベル品質を推定する能力を習得している。
• FWLは、更新ルールにラベル信頼度を組み込むことで、すべてのラベルを同等に扱う従来の手法よりも優れたデータ表現を得られることを示している。
• 実験的結果から、均一な重み付けや単純な仮ラベル化を用いるベースライン手法と比較して、FWLは優れた性能を達成することが明らかになった。