[论文解读] DeepAL: Deep Active Learning in Python

Kuan-Hao Huang|arXiv (Cornell University)|Nov 30, 2021

Machine Learning and Algorithms参考文献 11被引用 9

一句话总结

DeepAL 是一个基于 PyTorch 的 Python 库，提供了一个统一且可扩展的深度主动学习框架，使用户能够以极少的代码修改，在自定义数据集上轻松实现和实验多种查询策略，例如不确定性采样、BALD、核心集选择和对抗性边界方法。其主要贡献是一个专为深度学习应用设计的模块化、开源工具。

ABSTRACT

We present DeepAL, a Python library that implements several common strategies for active learning, with a particular emphasis on deep active learning. DeepAL provides a simple and unified framework based on PyTorch that allows users to easily load custom datasets, build custom data handlers, and design custom strategies without much modification of codes. DeepAL is open-source on Github and welcome any contribution.

研究动机与目标

• 为解决缺乏现代化、原生支持深度学习的主动学习库的问题，提供一个专为深度神经网络量身定制的框架。
• 使研究人员和实践者能够通过统一的基于 PyTorch 的接口，轻松实现和比较各种主动学习查询策略。
• 通过最少的代码修改，支持自定义数据集、数据处理器和新型查询策略的可扩展性。
• 通过原生支持 PyTorch 模型和训练流程，弥合传统主动学习库与当前深度学习实践之间的差距。

提出的方法

• 该库围绕三个核心组件构建：Data（管理已标注、未标注和测试集）、Net（定义神经网络架构和训练参数）以及 Strategy（实现查询选择逻辑）。
• Data 类使用 PyTorch 张量维护已标注和未标注数据池，并通过 handler 对象使用 __getitem__ 和 __len__ 方法将数据预处理为张量格式。
• Net 类封装了模型架构（继承自 torch.nn.Module）、训练超参数，以及用于预测、输出概率和提取嵌入的的方法。
• Strategy 类通过 FGSM 和 DeepFool 扰动实现了多种查询策略，包括随机采样、最小置信度、边界采样、熵采样、基于 Dropout 的不确定性估计、BALD、核心集选择和对抗性边界方法。
• 训练循环在每次查询步骤后集成模型微调，策略更新已标注数据池并迭代重新训练分类器。
• 该框架通过清晰的接口契约和继承模式，支持通过即插即用方式集成新数据集、模型和查询策略。

实验结果

研究问题

• RQ1 如何设计一个统一且可扩展的框架，以在 PyTorch 生态系统中支持多样化的深度主动学习查询策略？
• RQ2 模块化库在多大程度上能够降低研究人员在深度神经网络上开发新型主动学习策略的实现开销？
• RQ3 一个单一库是否能通过极少的代码修改，有效支持标准的基于不确定性的策略以及 BALD 和对抗性边界等高级方法？
• RQ4 DeepAL 的模块化设计在多大程度上促进了与自定义数据集和新型模型架构在主动学习工作流中的集成？

主要发现

• DeepAL 提供了一个完全模块化且可扩展的深度主动学习框架，使用户能够以极少的代码修改即可插入自定义数据集、数据处理器和查询策略。
• 该库原生支持一组全面的查询策略，包括不确定性采样（最小置信度、边界、熵）、基于 Dropout 的不确定性估计、BALD、核心集选择以及对抗性边界方法。
• DeepAL 与 PyTorch 无缝集成，允许用户通过 torch.nn.Module 定义模型，并通过标准化方法（如 predict、predict_prob 和 get_embeddings）管理训练和推理。
• 该框架通过清晰的循环实现迭代式主动学习：查询 → 更新已标注数据池 → 重新训练分类器，抽象出底层数据管理细节。
• 该库为开源，托管于 GitHub，其设计鼓励社区贡献，并适用于研究和实际应用的扩展。
• 该实现支持通过基本迭代法和 DeepFool 实现的对抗性扰动，使深度模型中的鲁棒不确定性估计成为可能。