[论文解读] Clustering with a Reject Option: Interactive Clustering as Bayesian Prior Elicitation

Akash Srivastava, James Zou+2 more|arXiv (Cornell University)|Jun 19, 2016

Machine Learning and Algorithms参考文献 25被引用 8

一句话总结

本文提出 TINDER，一种新颖的交互式聚类框架，使分析人员仅通过拒绝不满意的聚类结果，即可探索多样化且高质量的聚类。通过将拒绝反馈建模为贝叶斯先验获取，TINDER 迭代地修改聚类先验，生成越来越不同但又能拟合数据的聚类，其多样性显著优于随机重启，同时保持可接受的聚类质量。

ABSTRACT

A good clustering can help a data analyst to explore and understand a data set, but what constitutes a good clustering may depend on domain-specific and application-specific criteria. These criteria can be difficult to formalize, even when it is easy for an analyst to know a good clustering when they see one. We present a new approach to interactive clustering for data exploration called TINDER, based on a particularly simple feedback mechanism, in which an analyst can reject a given clustering and request a new one, which is chosen to be different from the previous clustering while fitting the data well. We formalize this interaction in a Bayesian framework as a method for prior elicitation, in which each different clustering is produced by a prior distribution that is modified to discourage previously rejected clusterings. We show that TINDER successfully produces a diverse set of clusterings, each of equivalent quality, that are much more diverse than would be obtained by randomized restarts.

研究动机与目标

• 为了解决探索性数据分析中‘良好’聚类定义困难的问题，因为用户直觉往往难以形式化为明确标准。
• 使分析人员能够在无需指定精确改进目标的情况下，探索多个在质上不同的聚类。
• 将用户拒绝反馈形式化为贝叶斯聚类框架中的先验获取机制。
• 生成一组系统上彼此不同的高质量聚类。
• 通过支持非构造性反馈（如拒绝）来弥合交互式聚类与替代聚类之间的鸿沟，同时保持聚类质量。

提出的方法

• TINDER 使用一个反馈循环，分析人员拒绝一个聚类并请求新聚类，从而触发重新聚类过程。
• 每个新聚类通过修改先验分布来生成，以惩罚与先前拒绝聚类的相似性。
• 该方法采用贝叶斯框架，其中先验通过与新聚类和已拒绝聚类之间的互信息成比例的惩罚项进行更新。
• 通过温度参数 β 对惩罚项进行缩放，以在多样性与数据拟合之间取得平衡，确保新聚类在量化上仍具可接受性。
• 系统维护被拒绝聚类的历史记录，并对所有迭代应用累积惩罚，以促进整体多样性。
• 聚类使用标准算法（如高斯混合模型）执行，目标函数被修改以包含促进多样性的惩罚项。

实验结果

研究问题

• RQ1 简单的基于拒绝的反馈机制是否能有效引导探索多样化且高质量的聚类？
• RQ2 如何在贝叶斯聚类模型中将用户拒绝反馈形式化为先验获取？
• RQ3 与随机重启相比，TINDER 在聚类多样性方面提升了多少？
• RQ4 TINDER 是否能在生成多样化结果的同时保持可接受的聚类质量？
• RQ5 温度参数 β 如何影响多样性与聚类准确率之间的权衡？

主要发现

• TINDER 生成的聚类相比随机重启具有显著更高的多样性，聚类分配的成对重叠率降低了超过 50%。
• TINDER 中连续聚类的多样性（以 ARS 衡量）始终高于基线，如图 2 中间图所示。
• TINDER 生成的聚类集合整体多样性显著更优，图 2 中实线红色曲线显示所有聚类对之间的重叠始终较低。
• TINDER 在保持合理聚类质量的同时实现了这一多样性，纯度分数虽略有下降，但仍处于可接受范围。
• 该方法成功发现了初始聚类中不存在的新颖且有意义的聚类，例如在五轮反馈迭代后，CIFAR10 数据集中识别出鸟类、飞机和猫的独立聚类。
• 经验上，将 β 设置为使惩罚项与对数似然保持平衡，可实现多样性与数据拟合之间的有效权衡。