[论文解读] Infinite Variational Autoencoder for Semi-Supervised Learning

Ehsan Abbasnejad, Anthony Dick+1 more|arXiv (Cornell University)|Nov 23, 2016

Generative Adversarial Networks and Image Synthesis参考文献 6被引用 5

一句话总结

本文提出了一种无限变分自编码器（iVAE），通过使用狄利克雷过程混合模型，根据数据复杂度动态调整自编码器的数量，从而在半监督学习中实现自适应容量。通过贝叶斯非参数方法对混合系数进行积分，该模型提升了对无标签数据的生成建模能力，从而在仅有少量标签样本的情况下实现了优于标准VAE和判别基线模型的分类性能，在CIFAR-10和ModelNet10上表现优异。

ABSTRACT

This paper presents an infinite variational autoencoder (VAE) whose capacity adapts to suit the input data. This is achieved using a mixture model where the mixing coefficients are modeled by a Dirichlet process, allowing us to integrate over the coefficients when performing inference. Critically, this then allows us to automatically vary the number of autoencoders in the mixture based on the data. Experiments show the flexibility of our method, particularly for semi-supervised learning, where only a small number of training samples are available.

研究动机与目标

• 为解决半监督学习中固定容量变分自编码器的局限性，即必须预先确定模型复杂度的问题。
• 开发一种贝叶斯非参数方法，使混合模型中自编码器的数量能够随数据复杂度增长。
• 通过利用大量无标签数据训练的灵活生成模型，并结合少量标签样本进行微调，提升半监督分类性能。
• 证明通过无限VAE实现的专家混合模型在泛化能力和判别性能上优于单模型VAE。

提出的方法

• 使用狄利克雷过程对无限混合变分自编码器的混合系数进行建模，实现非参数化的容量调节。
• 结合吉布斯采样与变分推断，实现对无限混合结构的高效后验推断。
• 将无限VAE作为生成组件，与判别模型（如ResNet）结合，通过共享最后一层参数以提升泛化能力。
• 将模型应用于二维图像（CIFAR-10）和三维形状（ModelNet10），采用数据增强和共享表征学习策略。
• 使用带数据增强（如随机裁剪、填充）的随机优化方案训练混合模型，提升鲁棒性。
• 将无限混合模型的期望潜在表征作为下游分类器（如SVM）的输入，验证其更强的判别能力。

实验结果

研究问题

• RQ1 贝叶斯非参数方法能否动态适应无标签数据的内在复杂度，自动调整自编码器数量？
• RQ2 在仅有少量标签样本的情况下，无限混合VAE是否能提升半监督分类的准确率？
• RQ3 在低样本学习场景下，无限VAE的性能与单个VAE及标准判别模型相比如何？
• RQ4 生成混合模型与判别模型之间的参数共享在多大程度上提升了预测准确率？

主要发现

• 在CIFAR-10上，结合ResNet的无限VAE实现了最先进性能，尤其在标签数据有限时，优于标准VAE和基线分类器。
• 仅使用100个标签样本时，无限VAE混合模型在CIFAR-10上的测试误差为8.1%，显著低于单个VAE的10.2%误差。
• 在ModelNet10上，基于无限VAE的潜在表征在SVM上达到85.68%的准确率，优于单个VAE的82.71%，表明其判别质量更优。
• 当使用全部训练数据时，各模型性能趋于收敛，证实无限混合模型的优势在低数据场景下最为显著。
• 无限混合模型的期望潜在表征在2D和3D数据集上均表现出更强的判别能力，体现在SVM准确率更高。
• 当标签数据稀缺时，混合模型中的每个专家会专注于数据的不同方面，通过多样性实现更好的泛化。