[论文解读] One Size Fits Many: Column Bundle for Multi-X Learning

Trang Pham, Truyen Tran+1 more|arXiv (Cornell University)|Feb 22, 2017

Text and Document Classification Technologies参考文献 15被引用 3

一句话总结

本文提出Column Bundle（CLB），一种通用的深度神经网络架构，通过将输入和输出部分组织为连接至中心列的微型列，实现多数据类型（如多标签、多视角、多实例学习）间共享统计信息的共享。CLB在多种多-X学习任务中实现了具有线性复杂度的竞争力性能，展现出良好的可扩展性和适应性，且无需针对特定任务进行架构调整。

ABSTRACT

Much recent machine learning research has been directed towards leveraging shared statistics among labels, instances and data views, commonly referred to as multi-label, multi-instance and multi-view learning. The underlying premises are that there exist correlations among input parts and among output targets, and the predictive performance would increase when the correlations are incorporated. In this paper, we propose Column Bundle (CLB), a novel deep neural network for capturing the shared statistics in data. CLB is generic that the same architecture can be applied for various types of shared statistics by changing only input and output handling. CLB is capable of scaling to thousands of input parts and output labels by avoiding explicit modeling of pairwise relations. We evaluate CLB on different types of data: (a) multi-label, (b) multi-view, (c) multi-view/multi-label and (d) multi-instance. CLB demonstrates a comparable and competitive performance in all datasets against state-of-the-art methods designed specifically for each type.

研究动机与目标

• 解决当前深度神经网络架构在联合建模多类多-X学习场景（如多标签、多视角、多实例学习）共享统计信息方面的空白。
• 设计一种单一、可复用的神经网络架构，通过仅修改输入和输出处理方式即可适应不同类型的共享统计信息，避免为特定任务定制架构。
• 在输入部分或输出标签达数千个的数据集上实现可扩展的性能，而无需显式建模成对关系。
• 评估所提架构在通用性和竞争力方面相对于为单一多-X学习任务量身定制的最先进方法的表现。

提出的方法

• CLB由一个中心列与多个微型列组成，每个微型列代表一个输入部分（如数据视角、实例）或输出目标（如标签、任务）。
• 中心列作为信息交换的枢纽，在推理过程中充当工作记忆，支持输入微型列之间的顺序交互。
• 训练过程中，来自多个输出微型列的反向传播通过中心列更新所有输入微型列，隐式建模相关性，而无需显式成对连接。
• 该架构在微型列间共享参数，实现在训练和推理阶段输入与输出数量均呈线性复杂度的高效扩展。
• 通过将输入和输出表征与中心列建立循环连接，实现各部分之间的动态交互与特征优化。
• 模型采用标准反向传播进行端到端训练，其灵活性使其可通过重新配置输入/输出接口，部署于多标签、多视角、多实例及混合设置中。

实验结果

研究问题

• RQ1 单一深度神经网络架构是否能有效建模多类多-X学习问题（包括多标签、多视角和多实例学习）中的共享统计信息？
• RQ2 所提出的Column Bundle架构是否能在无需架构特化的情况下，在多种多-X学习任务中保持竞争力的性能？
• RQ3 CLB在处理包含数千个输入部分或输出标签的数据集时，其可扩展性如何，同时保持效率？
• RQ4 中心列机制是否能有效捕捉输入与输出之间的相关性，而无需显式建模成对关系？

主要发现

• 在Youtube数据集上，CLB取得了98.0%的最高Micro F1-score和0.020的最低Hamming Loss，优于所有基线模型，包括2views-CLB和BMM。
• 在NUS-WIDE数据集上，CLB实现了57.7%的Micro F1-score和0.019的Hamming Loss，超越了2views-CLB和2views-BMM基线模型。
• 在多实例IMDB情感分类任务中，CLB取得了85.4%的F1-score和0.150的Hamming Loss，优于miVLAD（81.6%）、miFV（83.9%）和MI-Net（84.7%）。
• CLB的全视角设置在Youtube和NUS-WIDE数据集上均持续优于两视角设置，表明独立处理每个视角有助于提升表征学习能力。
• 隐藏状态的可视化显示，同一类别中两个样本的对应微型列表现出相似的激活模式，表明模型有效学习了共享表征。
• CLB在输入和输出数量上表现出线性复杂度，支持在不损失性能的前提下扩展至数千个标签或输入部分。