[论文解读] Active$^2$ Learning: Actively reducing redundancies in Active Learning methods for Sequence Tagging and Machine Translation

Rishi Hazra, Parag Dutta+3 more|arXiv (Cornell University)|Mar 11, 2021

Machine Learning and Algorithms参考文献 44被引用 5

一句话总结

本文提出主动$^2$学习（A$^2$L），一种通过动态过滤标准主动学习策略所选的相似样本，以减少序列标注和机器翻译中冗余的主动学习方法。通过在无额外计算成本的情况下引入一种多样性感知的精炼步骤，A$^2$L在保持多个NLP任务模型性能的同时，将数据需求减少了3–25%。

ABSTRACT

While deep learning is a powerful tool for natural language processing (NLP) problems, successful solutions to these problems rely heavily on large amounts of annotated samples. However, manually annotating data is expensive and time-consuming. Active Learning (AL) strategies reduce the need for huge volumes of labeled data by iteratively selecting a small number of examples for manual annotation based on their estimated utility in training the given model. In this paper, we argue that since AL strategies choose examples independently, they may potentially select similar examples, all of which may not contribute significantly to the learning process. Our proposed approach, Active$\mathbf{^2}$ Learning (A$\mathbf{^2}$L), actively adapts to the deep learning model being trained to eliminate further such redundant examples chosen by an AL strategy. We show that A$\mathbf{^2}$L is widely applicable by using it in conjunction with several different AL strategies and NLP tasks. We empirically demonstrate that the proposed approach is further able to reduce the data requirements of state-of-the-art AL strategies by an absolute percentage reduction of $\approx\mathbf{3-25\%}$ on multiple NLP tasks while achieving the same performance with no additional computation overhead.

研究动机与目标

• 解决主动学习中因独立选择相似样本而导致的冗余示例选择问题，从而降低学习效率。
• 通过在不增加计算成本的前提下最小化冗余标注，提升序列标注和机器翻译中的数据效率。
• 开发一种通用方法，以增强多种NLP任务中多样化的主动学习策略。
• 证明过滤冗余示例可显著减少标注数据需求，同时保持模型性能。

提出的方法

• A$^2$L集成了一种后处理过滤步骤，基于模型隐藏空间中的表示，移除与已选样本高度相似的示例。
• 该方法使用基于嵌入的相似性（例如余弦相似度）识别并丢弃由任何基础主动学习策略初始选择后的冗余示例。
• 过滤在主动学习循环中迭代应用，确保仅标注和训练多样且信息量丰富的样本。
• 该方法与模型无关，可兼容各种不确定性、多样性以及不确定性+多样性策略的主动学习方法。
• 过滤过程中无需额外前向传播，确保除标准主动学习外无任何计算开销。
• 该方法在序列标注和神经机器翻译任务中端到端应用，采用预训练的Transformer模型。

实验结果

研究问题

• RQ1 减少主动选择示例中的冗余是否能显著降低NLP任务的标注数据需求？
• RQ2 A$^2$L在与多种主动学习策略结合时，其提升数据效率的效果如何？
• RQ3 A$^2$L在减少所需标注示例数量的同时是否保持了模型性能？
• RQ4 A$^2$L中的过滤机制在不同NLP任务中是否具有计算效率和可扩展性？

主要发现

• A$^2$L在多个NLP任务中将所需标注示例数量减少了3–25%，同时实现了与基线主动学习相同的模型性能。
• 该方法在不同主动学习策略（包括不确定性采样和基于多样性的方法）中均一致地提升了数据效率。
• 性能提升未带来任何额外计算成本，因为过滤是基于现有模型表示完成的。
• 在低数据场景下，数据需求的减少最为显著，因为此时冗余对学习效率的影响最大。
• 实证结果表明，A$^2$L能有效过滤冗余示例，表现为过滤后所选样本之间的余弦相似度降低。