[论文解读] Gaussian Mixture Variational Autoencoder with Contrastive Learning for Multi-Label Classification

Junwen Bai, Shufeng Kong+1 more|arXiv (Cornell University)|Dec 2, 2021

Text and Document Classification Technologies参考文献 49被引用 14

一句话总结

该论文提出 C-GMVAE，一种基于对比学习增强的高斯混合变分自编码器，用于多标签分类任务，通过在共享的多模态潜在空间中建模标签和特征嵌入，解决了变分自编码器在多标签分类中后验坍缩和过度正则化的问题。通过用高斯混合分布替代单模态先验，并利用对比损失对齐嵌入，C-GMVAE 有效缓解了后验坍缩与过度正则化问题，在九个数据集上实现了最先进性能，仅使用 50% 的训练数据即可达到全量数据模型的准确率。

ABSTRACT

Multi-label classification (MLC) is a prediction task where each sample can have more than one label. We propose a novel contrastive learning boosted multi-label prediction model based on a Gaussian mixture variational autoencoder (C-GMVAE), which learns a multimodal prior space and employs a contrastive loss. Many existing methods introduce extra complex neural modules like graph neural networks to capture the label correlations, in addition to the prediction modules. We find that by using contrastive learning in the supervised setting, we can exploit label information effectively in a data-driven manner, and learn meaningful feature and label embeddings which capture the label correlations and enhance the predictive power. Our method also adopts the idea of learning and aligning latent spaces for both features and labels. In contrast to previous works based on a unimodal prior, C-GMVAE imposes a Gaussian mixture structure on the latent space, to alleviate the posterior collapse and over-regularization issues. C-GMVAE outperforms existing methods on multiple public datasets and can often match other models' full performance with only 50% of the training data. Furthermore, we show that the learnt embeddings provide insights into the interpretation of label-label interactions.

研究动机与目标

• 通过用多模态高斯混合结构替代单模态先验，解决变分自编码器在多标签分类中因后验坍缩和过度正则化带来的问题。
• 通过在标签嵌入上应用对比学习，实现标签相关性建模，而无需依赖图神经网络或协方差矩阵等复杂模块。
• 通过联合潜在空间对齐，学习解耦、平滑且语义有意义的特征与标签嵌入。
• 在数据量减少的情况下实现强性能，展示在低数据场景下的泛化能力与样本效率。
• 通过学习到的嵌入相似性，提供标签-标签相互作用的可解释性，尤其在生态学应用中具有重要意义。

提出的方法

• C-GMVAE 在潜在空间中采用高斯混合先验，以建模多模态数据分布，从而减少过度正则化和后验坍缩。
• 采用变分自编码器框架，利用 KL 散度将特征与标签在共享潜在空间中的潜在分布对齐。
• 在标签嵌入上应用对比学习，通过对比损失拉近共现标签的嵌入，同时推远无关标签的嵌入。
• 联合优化特征与标签的重构损失，以及用于表征对齐的对比损失与 KL 散度损失。
• 通过独立的编码器学习特征与标签嵌入，并通过共享解码器预测多标签输出。
• 采用随机梯度下降进行端到端训练，损失函数包含多个组件：重构损失、KL 散度损失与对比损失。

实验结果

研究问题

• RQ1 对比学习是否能在不依赖显式图结构或协方差矩阵的前提下，有效建模多标签分类中的标签相关性？
• RQ2 与单模态高斯先验相比，潜在空间中的高斯混合先验是否能更有效地减少后验坍缩与过度正则化？
• RQ3 C-GMVAE 是否能在仅使用 50% 训练数据的情况下实现最先进性能？
• RQ4 学习到的标签嵌入是否能反映标签之间的语义与生态学关系？
• RQ5 与三元组损失或排序损失相比，对比损失是否能提升特征与标签表征的质量？

主要发现

• 在九个公开数据集的五个指标上，C-GMVAE 均优于现有方法，实现最先进性能。
• 平均而言，C-GMVAE 在 ex-F1 上优于 ASL 5.3%，在 mi-F1 上优于 4.4%，在 ma-F1 上优于 6.1%。
• 仅使用 50% 的训练数据，C-GMVAE 的性能即可与在全量数据上训练的其他最先进模型持平。
• 仅对比学习模块本身在标签相关性建模方面已优于基于图神经网络和协方差矩阵的模块。
• 学习到的标签嵌入揭示了有意义的语义分组，如水鸟、森林鸟类和住宅鸟类，如 eBird 数据集热力图所示。
• 消融实验证实，高斯混合先验与对比损失均不可或缺，C-GMVAE 在 ma-F1 上相比单模态 VAE 提升了 7%。