[论文解读] Disentangled Variational Auto-Encoder for Semi-supervised Learning

Yang Li, Quan Pan+4 more|arXiv (Cornell University)|Sep 15, 2017

Generative Adversarial Networks and Image Synthesis参考文献 35被引用 13

一句话总结

该论文提出了一种新型框架——半监督解耦变分自编码器（SDVAE），通过等式约束直接将标签信息融入解耦潜在表征中，无需额外的分类器。通过解耦内容与类别判别性因子，并结合强化学习以提升特征学习，SDVAE在图像与文本半监督学习基准上均取得了当前最优性能，且基于IAF的优化进一步提升了结果。

ABSTRACT

Semi-supervised learning is attracting increasing attention due to the fact that datasets of many domains lack enough labeled data. Variational Auto-Encoder (VAE), in particular, has demonstrated the benefits of semi-supervised learning. The majority of existing semi-supervised VAEs utilize a classifier to exploit label information, where the parameters of the classifier are introduced to the VAE. Given the limited labeled data, learning the parameters for the classifiers may not be an optimal solution for exploiting label information. Therefore, in this paper, we develop a novel approach for semi-supervised VAE without classifier. Specifically, we propose a new model called Semi-supervised Disentangled VAE (SDVAE), which encodes the input data into disentangled representation and non-interpretable representation, then the category information is directly utilized to regularize the disentangled representation via the equality constraint. To further enhance the feature learning ability of the proposed VAE, we incorporate reinforcement learning to relieve the lack of data. The dynamic framework is capable of dealing with both image and text data with its corresponding encoder and decoder networks. Extensive experiments on image and text datasets demonstrate the effectiveness of the proposed framework.

研究动机与目标

• 为解决因标注数据有限及额外分类器参数导致的半监督VAE过拟合问题。
• 探究是否可直接将标签信息融入VAE框架，而无需依赖独立的分类器。
• 通过将类别判别性因子与不可解释的重建因子解耦，改进表征学习。
• 在数据稀缺条件下，利用强化学习与逆自回归流（IAF）提升特征学习。
• 通过模块化编码器-解码器设计，构建适用于图像与文本数据的统一框架。

提出的方法

• SDVAE将潜在空间解耦为解耦表征（v），用于捕捉类别信息，以及不可解释表征（u），用于数据重建。
• 通过等式约束直接在解耦表征上施加标签信息，取代分类器网络的使用。
• 应用强化学习动态优化目标函数，结合标签启发式规则，以在标注数据有限时提升特征学习。
• 集成逆自回归流（IAF）以提升潜在变量学习过程的表达能力与稳定性。
• 模型采用针对图像或文本数据定制的独立编码器与解码器网络，实现跨模态的灵活性。
• 目标函数结合重建损失、KL散度与约束正则化项，通过随机梯度下降进行优化。

实验结果

研究问题

• RQ1 是否可在不引入独立分类器的前提下，在基于VAE的半监督学习框架中有效利用标签信息？
• RQ2 如何利用解耦表征直接编码类别信息，同时保持数据重建质量？
• RQ3 在标注数据稀缺时，强化学习在多大程度上可提升表征学习？
• RQ4 IAF的集成是否能提升解耦VAE在图像与文本半监督学习任务中的性能？
• RQ5 所提出的框架是否可在不依赖传统分类器的前提下，在多种数据模态上实现SOTA性能？

主要发现

• SDVAE-II&IAF在图像与文本半监督学习基准上均达到SOTA性能，优于现有方法。
• IAF的集成在所有数据集上均持续提升准确率，SDVAE-I与SDVAE-II中均观察到显著增益。
• 将IAF链长度设为1可实现重建误差与KL散度之间的最优权衡，确保学习过程稳定且高效。
• SDVAE-II的最优超参数为β₁ = 0.1与β₂ = 1，尤其在图像数据上表现优异。
• 该模型在MNIST与SVHN数据集上使用1000个标注样本时表现稳健，实现低重建误差与高分类准确率。
• 解耦表征成功捕捉了类别级语义信息，而不可解释成分则保留了如手写数字中的粗体与斜体等结构与风格特征。