[论文解读] Improving ClusterGAN Using Self-Augmented Information Maximization of Disentangling Latent Spaces

Tanmoy Dam, Sreenatha G. Anavatti+1 more|arXiv (Cornell University)|Jul 27, 2021

Generative Adversarial Networks and Image Synthesis参考文献 52被引用 7

一句话总结

本文提出 SIMI-ClusterGAN，一种新型的 ClusterGAN 变体，通过自增强信息最大化学习数据驱动先验，从而提升聚类性能，实现更优的潜在空间解耦与在类别不平衡数据集上的优越表现。该方法在七个基准数据集上优于最先进基线模型，尤其在类别不平衡情况下表现更优，其学习到的逼真、非均匀先验更符合真实数据分布。

ABSTRACT

Since their introduction in the last few years, conditional generative models have seen remarkable achievements. However, they often need the use of large amounts of labelled information. By using unsupervised conditional generation in conjunction with a clustering inference network, ClusterGAN has recently been able to achieve impressive clustering results. Since the real conditional distribution of data is ignored, the clustering inference network can only achieve inferior clustering performance by considering only uniform prior based generative samples. However, the true distribution is not necessarily balanced. Consequently, ClusterGAN fails to produce all modes, which results in sub-optimal clustering inference network performance. So, it is important to learn the prior, which tries to match the real distribution in an unsupervised way. In this paper, we propose self-augmentation information maximization improved ClusterGAN (SIMI-ClusterGAN) to learn the distinctive priors from the data directly. The proposed SIMI-ClusterGAN consists of four deep neural networks: self-augmentation prior network, generator, discriminator and clustering inference network. The proposed method has been validated using seven benchmark data sets and has shown improved performance over state-of-the art methods. To demonstrate the superiority of SIMI-ClusterGAN performance on imbalanced dataset, we have discussed two imbalanced conditions on MNIST datasets with one-class imbalance and three classes imbalanced cases. The results highlight the advantages of SIMI-ClusterGAN.

研究动机与目标

• 为解决 ClusterGAN 在学习反映真实数据分布的逼真、非均匀先验方面存在的局限性，特别是在类别不平衡设置下。
• 通过用通过自增强和信息最大化学习到的数据驱动先验替代均匀先验，提升聚类性能。
• 通过强制先验匹配真实数据分布，提升聚类推理网络中潜在表示的解耦程度。
• 在包括 MNIST 和 CIFAR-10 在内的平衡与高度不平衡基准数据集上，证明所提方法的鲁棒性与优越性。

提出的方法

• 引入一个自增强先验网络，通过最大化数据增强视图之间的互信息，学习离散的数据驱动先验。
• 构建一个混合潜在空间，结合连续噪声与离散的自增强先验，以引导生成器生成更逼真的样本。
• 采用共享权重的生成器-编码器架构，确保真实数据与生成数据在潜在空间中的表示一致性。
• 使用三种额外损失函数：自增强对比损失、互信息最大化损失和聚类分配损失，以正则化推理网络。
• 利用学习到的先验，通过生成器与判别器之间的对抗训练，提升模式覆盖度与样本质量。
• 通过在生成器与聚类推理编码器之间共享权重，强制实现解耦且类别特定的表示。

实验结果

研究问题

• RQ1 自增强信息最大化能否改善 ClusterGAN 中的先验学习，使其更准确反映真实数据分布？
• RQ2 与均匀先验相比，学习数据驱动先验在类别不平衡数据集上的聚类性能有何提升？
• RQ3 所提方法在多大程度上增强了聚类推理网络中潜在表示的解耦程度？
• RQ4 在标准基准数据集上，所提方法是否在平衡与不平衡条件下均优于最先进聚类方法？

主要发现

• 在 MNIST 上，SIMI-ClusterGAN 达到 97.2% 准确率与 92.1% NMI，显著优于使用均匀先验的 ClusterGAN 的 95.0% 与 89.0%。
• 在 CIFAR-10 上，SIMI-ClusterGAN 达到 22.8% 准确率与 6.7% NMI，而 ClusterGAN 仅为 15.9% 与 2.5%，表明在复杂、高维数据上性能显著提升。
• 在单类不平衡设置（数字 0 仅占 10%）下，SIMI-ClusterGAN 达到 96.9% 准确率与 92.3% NMI，优于 ClusterGAN 的 89.2% 与 83.6%。
• 在三类不平衡设置（数字 1、3、5 分别占 10%、30%、50%）下，SIMI-ClusterGAN 达到 94.9% 准确率与 90.9% NMI，优于 ClusterGAN 的 81.2% 与 78.7%。
• t-SNE 可视化结果表明，SIMI-ClusterGAN 生成的聚类更易分离且更纯净，尤其在少数类中表现更优，而 ClusterGAN 生成的样本则出现混合或坍塌现象。
• 消融实验表明，自增强、互信息最大化与聚类损失三个组件均对最终性能提升有显著贡献。