[论文解读] Efficient mining of maximal biclusters in mixed-attribute datasets

Rosana Veroneze, Fernando J. Von Zuben|arXiv (Cornell University)|Oct 9, 2017

Data Mining Algorithms and Applications参考文献 21被引用 4

一句话总结

本文提出了一种高效、枚举式的双聚类算法 RIn-Close_CVC-Mix，可直接在混合属性数据集（同时包含数值型和类别型属性）中挖掘所有最大双聚类，无需离散化或预处理。该算法保持了多项式时间效率、完备性、正确性和非冗余性，并利用频繁模式挖掘生成可解释的定量类别关联规则（QCARs），从而为有标签数据集构建简洁、高质量的模型。

ABSTRACT

This paper presents a novel enumerative biclustering algorithm to directly mine all maximal biclusters in mixed-attribute datasets (containing both numerical and categorical attributes), with or without missing values. The proposal is an extension of RIn-Close_CVC, which was originally conceived to mine perfect or perturbed biclusters with constant values on columns solely from numerical datasets, and without missing values. Even endowed with additional and more general features, the extended RIn-Close_CVC retains four key properties: (1) efficiency, (2) completeness, (3) correctness, and (4) non-redundancy. Our proposal is the first one to deal with mixed-attribute datasets without requiring any pre-processing step, such as discretization and itemization of real-valued attributes. This is a decisive aspect, because discretization and itemization implies a priori decisions, with information loss and no clear control over the consequences. On the other hand, even having to specify a priori an individual threshold for each numerical attribute, that will be used to indicate internal consistency per attribute, each threshold will be applied during the construction of the biclusters, shaping the peculiarities of the data distribution. We also explore the strong connection between biclustering and frequent pattern mining to (1) provide filters to select a compact bicluster set that exhibits high relevance and low redundancy, and (2) in the case of labeled datasets, automatically present the biclusters in a user-friendly and intuitive form, by means of quantitative class association rules. Our experimental results showed that the biclusters yield a parsimonious set of relevant rules, providing useful and interpretable models for five mixed-attribute labeled datasets.

研究动机与目标

• 解决现有方法中缺乏针对同时包含数值型和类别型属性的混合属性数据集的高效、完备且非冗余的双聚类算法的问题。
• 消除现有方法中因需要离散化或项目化等预处理步骤而导致的信息损失。
• 扩展 RIn-Close_CVC 算法以处理混合属性数据，同时保持其四项核心特性：效率、完备性、正确性和非冗余性。
• 将双聚类与频繁模式挖掘相结合，自动生成用户友好、可解释的定量类别关联规则（QCARs）。
• 评估所挖掘双聚类在构建简洁、相关且可解释的有标签混合属性数据集模型方面的实用性。

提出的方法

• 通过将闭包操作适配为同时处理数值型和类别型属性，扩展 RIn-Close_CVC 算法以支持混合属性数据集。
• 对每个数值型属性应用独立的、用户定义的阈值以定义内部一致性，从而在双聚类构建过程中保留数据分布特征。
• 采用基于格的枚举策略，确保不重复地找到所有最大双聚类。
• 利用频繁模式挖掘（FPM）技术，通过置信度和提升度等指标筛选双聚类，选择一个紧凑且高相关性的子集。
• 将所挖掘的双聚类映射为定量类别关联规则（QCARs），以实现直观解释，尤其适用于有标签数据集。
• 采用启发式方法选择一个小型、具有代表性的双聚类子集，以保持对类别标签的强区分能力。

实验结果

研究问题

• RQ1 是否存在一种枚举式双聚类算法，能够高效且完整地挖掘混合属性数据集中所有最大双聚类，而无需离散化或预处理？
• RQ2 扩展后的 RIn-Close_CVC-Mix 算法在应用于混合属性数据时，是否仍能保持效率、完备性、正确性和非冗余性这四项核心特性？
• RQ3 将双聚类与频繁模式挖掘相结合，能否从所挖掘的双聚类中生成可解释且高质量的定量类别关联规则（QCARs）？
• RQ4 从双聚类中导出的 QCARs 在构建简洁、相关且可解释的有标签混合属性数据集模型方面，其有效性如何？
• RQ5 能否选择一个小型、具有代表性的双聚类子集，使其在最小化冗余的同时保持对类别标签的强区分能力？

主要发现

• 所提出的 RIn-Close_CVC-Mix 算法成功在无需离散化的混合属性数据集中挖掘出所有最大双聚类，同时保持了原始 RIn-Close_CVC 算法的四项核心特性。
• 该算法在每个双聚类上保持多项式时间复杂度，即使在包含多种属性类型的大型数据集中也确保了高效性。
• 与频繁模式挖掘的集成使得能够自动生成定量类别关联规则（QCARs），这些规则具有可解释性，对模型理解具有实用价值。
• 在五个有标签的混合属性数据集中，从双聚类中导出的 QCARs 构成了一组简洁、相关性强且冗余度低的规则集。
• 在 Zoo 数据集中，规则如 'feathers{no}, milk{yes}, backbone{yes}, breathes{yes}, venomous{no} ⇒ 1' 达到了 100% 的置信度，提升度最高达 25.25，表明其具有强大的预测能力。
• 用于选择代表性双聚类子集的启发式方法成功减少了冗余，同时保持了对类别标签的强区分能力。