[论文解读] Pairwise Adjusted Mutual Information

Denys Lazarenko, Thomas Bonald|arXiv (Cornell University)|Mar 23, 2021

Data Management and Algorithms参考文献 10被引用 7

一句话总结

本文提出成对调整互信息（PAMI），作为标准调整互信息（AMI）在聚类评估中的计算高效替代方法。与全随机标签置换不同，PAMI 采用在两个随机选择样本之间进行成对标签交换的方式，实现 O(kl) 时间内的精确计算——与互信息复杂度一致——同时保持统计稳健性，并在合成数据和真实数据上的性能与 AMI 相当。

ABSTRACT

A well-known metric for quantifying the similarity between two clusterings is the adjusted mutual information. Compared to mutual information, a corrective term based on random permutations of the labels is introduced, preventing two clusterings being similar by chance. Unfortunately, this adjustment makes the metric computationally expensive. In this paper, we propose a novel adjustment based on {pairwise} label permutations instead of full label permutations. Specifically, we consider permutations where only two samples, selected uniformly at random, exchange their labels. We show that the corresponding adjusted metric, which can be expressed explicitly, behaves similarly to the standard adjusted mutual information for assessing the quality of a clustering, while having a much lower time complexity. Both metrics are compared in terms of quality and performance on experiments based on synthetic and real data.

研究动机与目标

• 为解决标准调整互信息（AMI）的高计算成本问题，其时间复杂度因全标签置换采样而达到 O(max(k,l)n)。
• 开发一种更高效的互信息调整机制，同时保持对偶然相似性的统计稳健性。
• 用样本间的成对标签交换替代全随机置换，降低时间复杂度而不损失性能。
• 证明新调整方法生成的度量在聚类评估任务中具有与 AMI 相当的性质和行为。

提出的方法

• 提出一种基于成对置换的新型调整机制：仅让两个随机选择的样本交换其聚类标签。
• 推导出在成对置换下期望互信息的显式闭式表达式，实现精确计算。
• 使用成对置换下变差信息的期望作为校正项，类似于 AMI 中全置换期望的处理方式。
• 将成对调整互信息计算为观测互信息与其在成对随机化下的期望之差。
• 利用期望的对称性与线性性质，推导出涉及聚类大小（a_i, b_j）和列联表条目（n_ij）的高效公式。
• 证明新度量满足与 AMI 相同的关键性质，包括非负性以及对常量或完全置换标签的零调整。

实验结果

研究问题

• RQ1 基于成对置换的调整能否在统计特性上与全置换调整方法相当？
• RQ2 所提出的成对调整是否保持与标准 AMI 相同的对真实聚类结构的敏感性？
• RQ3 与标准 AMI 相比，新调整方法的计算复杂度如何？
• RQ4 在聚类评估准确性方面，成对调整度量与 AMI 相比表现如何？

主要发现

• 所提出的成对调整互信息（PAMI）通过消除对样本数 n 的依赖，将时间复杂度降低至与互信息相同的 O(kl)，而 AMI 的复杂度为 O(max(k,l)n)。
• PAMI 保留了 AMI 的关键理论性质，包括非负性以及对常量或完全置换标签的零调整。
• 在合成数据和真实数据上的实验表明，PAMI 在聚类评估中的表现与标准 AMI 相当，精度损失可忽略不计。
• PAMI 的显式公式仅依赖于列联表和聚类大小，可实现无需蒙特卡洛采样的快速精确计算。
• PAMI 中的校正项基于成对随机化推导，显著降低了计算开销，同时保持统计有效性。
• 理论分析证实，PAMI 满足与 AMI 相同的不变性与对称性性质，确保在聚类比较中行为一致。