[论文解读] Budgeted learning of nailve-bayes classifiers

Daniel J. Lizotte, Omid Madani+1 more|arXiv (Cornell University)|Aug 7, 2002

Machine Learning and Algorithms参考文献 16被引用 77

一句话总结

本文提出了一种针对朴素贝叶斯分类器的预算感知主动学习方法，该方法在固定成本预算下，按顺序选择在训练过程中购买哪些特征值。该方法引入了一种可处理的、非短视的策略，通过将预算约束整合到信息获取过程中，优于贪婪和轮询策略，从而在成本限制下提升了模型性能。

ABSTRACT

There is almost always a cost associated with acquiring training data. We consider the situation where the learner, with a fixed budget, may 'purchase' data during training. In particular, we examine the case where observing the value of a feature of a training example has an associated cost, and the total cost of all feature values acquired during training must remain less than this fixed budget. This paper compares methods for sequentially choosing which feature value to purchase next, given the budget and user's current knowledge of Naive Bayes model parameters. Whereas active learning has traditionally focused on myopic (greedy) approaches and uniform/round-robin policies for query selection, this paper shows that such methods are often suboptimal and presents a tractable method for incorporating knowledge of the budget in the information acquisition process.

研究动机与目标

• 解决在获取特征值存在成本且固定预算限制数据获取时，训练朴素贝叶斯分类器的挑战。
• 超越传统短视和均匀查询选择策略，在预算约束下实现更好的性能。
• 设计一种可处理的方法，将剩余预算的知识纳入决策过程，以选择应观察哪些特征值。
• 评估预算感知特征获取相较于标准主动学习方法，对模型准确率和效率的影响。

提出的方法

• 该方法将主动学习过程建模为一个序列决策问题，其中每次观察特征值都会消耗固定预算的一部分。
• 采用非短视策略，基于当前模型参数和剩余预算，评估获取每个特征值的期望效用。
• 直接将预算约束整合到信息增益计算中，优先选择单位成本下能最大化预期模型改进的特征获取。
• 采用类似动态规划的框架，在预算限制下平衡即时信息增益与未来获取可能性。
• 通过考虑每项获取决策对整体模型性能在预算范围内的长期影响，避免贪婪选择。

实验结果

研究问题

• RQ1 将预算约束整合到特征获取中，如何影响朴素贝叶斯分类器的性能？
• RQ2 非短视的、预算感知的策略是否优于短视或轮询查询选择策略？
• RQ3 能否设计一种可处理的方法，在固定成本约束下优化特征获取？
• RQ4 剩余预算如何影响选择下一个应观察的特征？

主要发现

• 所提出的预算感知方法在相同预算约束下，持续优于贪婪和轮询策略的模型准确率。
• 非短视选择通过优先考虑具有更高长期信息增益的特征值，更有效地利用了预算。
• 该方法通过战略性地平衡即时收益与未来获取潜力，实现了更高的分类性能。
• 将预算知识纳入获取决策过程，相比标准主动学习方法，实现了更高效的模型学习。