[论文解读] Streaming View Learning

Chang Xu, Dacheng Tao+1 more|arXiv (Cornell University)|Apr 28, 2016

Sparse and Compressive Sensing Techniques参考文献 9被引用 10

一句话总结

本文提出流式视图学习（SVL），一种通过微调稳定历史视图功能子空间的组合权重来高效更新多视图模型的方法，避免了重新训练。该方法以极低的计算成本实现了显著的性能提升，在真实世界数据集上的聚类NMI指标上相比现有方法最高提升20%。

ABSTRACT

An underlying assumption in conventional multi-view learning algorithms is that all views can be simultaneously accessed. However, due to various factors when collecting and pre-processing data from different views, the streaming view setting, in which views arrive in a streaming manner, is becoming more common. By assuming that the subspaces of a multi-view model trained over past views are stable, here we fine tune their combination weights such that the well-trained multi-view model is compatible with new views. This largely overcomes the burden of learning new view functions and updating past view functions. We theoretically examine convergence issues and the influence of streaming views in the proposed algorithm. Experimental results on real-world datasets suggest that studying the streaming views problem in multi-view learning is significant and that the proposed algorithm can effectively handle streaming views in different applications.

研究动机与目标

• 解决视图按顺序到达的流式设置下的多视图学习挑战，不同于传统的批量设置。
• 克服新视图到达时从头重新训练模型带来的高计算成本和性能下降问题。
• 通过假设历史视图的功能子空间保持稳定，仅更新新视图的组合权重，实现高效的模型适应。
• 理论上分析收敛性和估计误差，以证明流式更新策略的可行性。
• 在真实世界的聚类和分类任务中，通过流式视图展示方法的实际有效性。

提出的方法

• 假设过去视图功能训练得到的子空间在流式视图处理过程中保持稳定。
• 当新视图到达时，仅微调现有视图功能子空间的组合权重，而非重新训练所有视图功能。
• 将多视图学习问题表述为具有共享表示的潜在子空间优化，采用视图特定函数的加权融合。
• 引入一种迭代更新规则，通过最小化重建误差并保持历史模型稳定性来调整权重。
• 理论分析证明了算法的收敛性，并在流式视图条件下界定了估计误差。
• 以流式方式应用该方法：使用初始视图上的基础模型进行初始化，然后通过微调权重逐步更新新视图。

实验结果

研究问题

• RQ1 当新视图按顺序到达时，是否可以无需完整重训而高效更新多视图学习模型？
• RQ2 历史视图功能子空间的稳定性如何影响增量模型更新的性能和收敛性？
• RQ3 用于训练基础模型的初始视图数量对流式算法最终性能有何影响？
• RQ4 所提出方法对流式序列中视图到达顺序的敏感性如何？
• RQ5 与批量多视图学习相比，流式视图学习方法在聚类和分类性能上的提升程度如何？

主要发现

• 所提出的流式视图学习（SVL）算法在PASCAL VOC’07数据集（8个视图）上，相比单视图方法性能提升最高达20%，相比多视图FLSSS方法提升5%。
• 随着处理的视图数量增加，SVL表现出稳定且一致的性能提升，NMI从0.554提升至0.571（共8个视图）。
• SVL的性能对不同流式视图顺序具有鲁棒性，不同随机视图顺序下的分类结果仅显示微小差异。
• 使用更多视图初始化基础模型可获得更好性能，初始化不足会导致估计误差较高且性能提升有限。
• 增加潜在维度$d$可提升表示能力，手写数字数据集上在$d=150$时NMI达到0.871，表明性能稳定且可扩展。
• 理论分析证实了收敛性并界定了估计误差，支持在流式条件下仅微调组合权重的可行性。