[论文解读] Deep Bayesian Active Learning, A Brief Survey on Recent Advances

Salman Mohamadi, Hamidreza Amindavar|arXiv (Cornell University)|Dec 15, 2020

Machine Learning and Algorithms参考文献 25被引用 8

一句话总结

本综述回顾了深度贝叶斯主动学习的最新进展，重点介绍将贝叶斯推断与深度神经网络相结合以建模不确定性并提高样本效率的方法。通过利用蒙特卡洛 dropout、变分推断以及基于预测熵和互信息的获取函数等技术，该框架在极少标注数据的情况下实现了高精度，且在多个基准测试中优于非贝叶斯方法。

ABSTRACT

Active learning frameworks offer efficient data annotation without remarkable accuracy degradation. In other words, active learning starts training the model with a small size of labeled data while exploring the space of unlabeled data in order to select most informative samples to be labeled. Generally speaking, representing the uncertainty is crucial in any active learning framework, however, deep learning methods are not capable of either representing or manipulating model uncertainty. On the other hand, from the real world application perspective, uncertainty representation is getting more and more attention in the machine learning community. Deep Bayesian active learning frameworks and generally any Bayesian active learning settings, provide practical consideration in the model which allows training with small data while representing the model uncertainty for further efficient training. In this paper, we briefly survey recent advances in Bayesian active learning and in particular deep Bayesian active learning frameworks.

研究动机与目标

• 综述贝叶斯主动学习在理论与应用方面的最新进展，尤其关注深度学习场景。
• 解决深度学习中模型不确定性表示问题，该问题限制了传统主动学习的应用。
• 探讨贝叶斯推断如何实现高效训练，尤其在数据稀缺情况下，并提供高精度的不确定性估计。
• 比较不同获取函数（如熵、互信息）在选择具有信息量样本用于标注方面的表现。
• 突出展示贝叶叶斯深度学习与主动学习的结合，以提升样本效率与鲁棒性。

提出的方法

• 使用蒙特卡洛 dropout 近似深度网络中的后验分布，实现不确定性估计而无需重新训练。
• 采用变分推断和网络权重上的贝叶斯先验，以在深度模型中建模参数不确定性。
• 应用获取函数（如预测熵、变异系数比、互信息）识别最具信息量的未标注样本。
• 通过伪标签和期望最大化算法，将贝叶斯主动学习与半监督学习相结合。
• 利用基于高斯过程的框架实现低计算开销的不确定性感知分类。
• 提出基于散度的效用函数实现查询高效的后验近似，以减少对标注模型（oracle）的查询次数。

实验结果

研究问题

• RQ1 贝叶斯深度学习如何在主动学习中有效表示模型不确定性？
• RQ2 在深度主动学习中，哪些获取函数最有效地选择具有信息量的样本？
• RQ3 通过不确定性感知采样，贝叶斯神经网络是否能在极少标注数据下实现高精度？
• RQ4 在样本效率和性能方面，贝叶斯主动学习与半监督学习相比如何？
• RQ5 在主动学习中，使用完整贝叶斯推断与近似方法（如 dropout）相比，计算开销有何权衡？

主要发现

• 深度贝叶斯主动学习在多个自然语言处理和视觉任务中，始终优于非贝叶斯主动学习基线方法。
• 蒙特卡洛 dropout 为深度网络中的贝叶斯推断提供了实用且有效的近似方法，适用于不确定性估计。
• 基于预测熵和互信息的获取函数可实现更快收敛，并在使用更少标注样本时获得更高精度。
• 贝叶斯距离度量学习可实现高效的样本对选择，并在小样本数据集上提升性能。
• 仅在卷积神经网络的最后几层使用贝叶斯先验，即可有效捕捉模型不确定性，同时保持计算效率。
• 通过伪标签将贝叶斯主动学习与半监督学习相结合，可提升性能并降低标注成本。