[论文解读] The Management of Context-Sensitive Features: A Review of Strategies

Peter D. Turney|ArXiv.org|Dec 12, 2002

Data Stream Mining Techniques参考文献 20被引用 68

一句话总结

本文回顾了五种用于在监督机器学习中管理上下文敏感特征的启发式策略，重点在于恢复隐含的上下文信息，并表明混合方法可产生协同改进效果。本文综合了上下文敏感学习领域的现有工作，提出了一套全面的框架，将1996年为止文献中的主要技术全部涵盖在内。

ABSTRACT

In this paper, we review five heuristic strategies for handling context-sensitive features in supervised machine learning from examples. We discuss two methods for recovering lost (implicit) contextual information. We mention some evidence that hybrid strategies can have a synergetic effect. We then show how the work of several machine learning researchers fits into this framework. While we do not claim that these strategies exhaust the possibilities, it appears that the framework includes all of the techniques that can be found in the published literature on contextsensitive learning.

研究动机与目标

• 识别并分类监督机器学习中处理上下文敏感特征的有效策略。
• 探索在特征表示中丢失的隐含上下文信息的恢复方法。
• 评估在上下文敏感学习中结合多种策略所产生的协同效应潜力。
• 提供一个统一的框架，涵盖上下文敏感学习领域已发表文献中的现有技术。
• 展示不同上下文敏感学习研究方法如何映射到此结构化框架中。

提出的方法

• 回顾监督学习环境中管理上下文敏感特征的五种启发式策略。
• 分析两种从特征表示中恢复丢失或隐含上下文信息的方法。
• 评估结合多种技术以增强上下文敏感性的混合策略的性能。
• 将现有机器学习研究映射到所提出的框架中，以验证其全面性。
• 使用基于ACM和MSC学科分类的分类框架，对策略进行组织与分析。
• 借鉴上下文敏感领域先前研究的实证结果，特别是在计算机视觉和模式识别领域。

实验结果

研究问题

• RQ1 在监督机器学习中，管理上下文敏感特征的主要启发式策略有哪些？
• RQ2 当隐含的上下文信息未在特征集中显式表示时，应如何恢复？
• RQ3 混合策略在上下文敏感学习任务中相较于单一技术，其性能提升程度如何？
• RQ4 所提出的框架在多大程度上能够捕捉并组织文献中的现有方法？
• RQ5 不同机器学习技术在哪些方面与所识别的上下文敏感特征管理策略相契合？

主要发现

• 本文提出的框架涵盖了1996年为止发表文献中所有主要的上下文敏感特征管理技术。
• 识别并分析了两种恢复隐含上下文信息的方法，表明其为改进特征表示提供了实用途径。
• 有证据表明，通过混合方法结合策略可产生性能上的协同提升。
• 多个现有的机器学习研究工作成功地被映射到所提出的框架中，验证了其适用性与完整性。
• 综述表明，上下文敏感特征管理是一个定义明确的问题领域，拥有多种可行且经实证支持的策略。
• 该框架为未来在上下文敏感学习领域的研究提供了结构化基础，尤其在计算机视觉和模式识别等应用领域。