[论文解读] Learning in High-Dimensional Multimedia Data: The State of the Art

Lianli Gao, Jingkuan Song+4 more|arXiv (Cornell University)|Jul 10, 2017

Video Surveillance and Tracking Methods参考文献 63被引用 9

一句话总结

本综述全面概述了用于高维多媒体数据的机器学习技术，重点聚焦于通过特征变换、特征选择和特征编码实现的降维，以及在线学习和并行计算等高效学习算法。它识别出维度灾难等关键挑战，并为现实世界中的多媒体应用提出可扩展的解决方案。

ABSTRACT

During the last decade, the deluge of multimedia data has impacted a wide range of research areas, including multimedia retrieval, 3D tracking, database management, data mining, machine learning, social media analysis, medical imaging, and so on. Machine learning is largely involved in multimedia applications of building models for classification and regression tasks etc., and the learning principle consists in designing the models based on the information contained in the multimedia dataset. While many paradigms exist and are widely used in the context of machine learning, most of them suffer from the `curse of dimensionality', which means that some strange phenomena appears when data are represented in a high-dimensional space. Given the high dimensionality and the high complexity of multimedia data, it is important to investigate new machine learning algorithms to facilitate multimedia data analysis. To deal with the impact of high dimensionality, an intuitive way is to reduce the dimensionality. On the other hand, some researchers devoted themselves to designing some effective learning schemes for high-dimensional data. In this survey, we cover feature transformation, feature selection and feature encoding, three approaches fighting the consequences of the curse of dimensionality. Next, we briefly introduce some recent progress of effective learning algorithms. Finally, promising future trends on multimedia learning are envisaged.

研究动机与目标

• 应对高维多媒体数据带来的挑战，包括维度灾难和计算不可行性。
• 综述多媒体数据中降维的既定与新兴技术，如特征变换、选择和编码。
• 研究高效的学习方案——特别是在线学习和一阶优化方法——可直接处理高维数据而无需预先降维。
• 探讨并行计算和大数据框架（例如 Hadoop、S4）在扩展多媒体学习系统中的作用。
• 识别未来在可扩展、高效且自适应学习方面的研究方向，以应对不断演变的多媒体数据工作负载。

提出的方法

• 将降维技术分类为三种核心方法：特征变换（例如 PCA 类方法）、特征选择（例如过滤法、包装法、嵌入法）和特征编码（例如哈希、深度自编码器）。
• 回顾基于 Follow-The-Regularized-Leader（FTRL）和镜像下降原理的在线学习框架，实现低遗憾的增量模型更新。
• 引入在线梯度下降和自适应子梯度方法（例如 Duchi 等人提出的方法），可动态适应数据几何结构，从而提升收敛性。
• 分析机器学习与 Hadoop 和 Apache S4 等大数据基础设施的集成，以实现对多媒体数据流的分布式、实时处理。
• 提出一种通用学习框架，其中特征提取先于对高维特征进行降维或直接学习。
• 强调在 FTRL 中使用近端项可稳定学习过程，并在高维设置中提升性能。

实验结果

研究问题

• RQ1 高维多媒体特征如何加剧机器学习任务中的维度灾难？
• RQ2 在多媒体数据中，哪种降维策略——特征变换、选择还是编码——最能有效保留语义信息？
• RQ3 在线学习算法如何在实时处理高维多媒体数据时实现低遗憾和可扩展性？
• RQ4 Hadoop 和 S4 等分布式计算框架在实现大规模多媒体数据可扩展学习中发挥什么作用？
• RQ5 深度学习、在线优化与并行计算的融合将如何推动未来多媒体学习的发展趋势？

主要发现

• 特征变换、选择和编码等降维技术对于缓解维度灾难、提升模型效率和准确性至关重要。
• 在线学习方法，特别是基于 FTRL 且具有自适应近端项的算法，能实现低遗憾，非常适合处理流式高维多媒体数据。
• 自适应子梯度方法可动态适应数据几何结构，从而在高维设置中提升收敛性和性能。
• Hadoop 和 S4 等并行计算框架可实现大规模多媒体数据流的可扩展、实时处理。
• 在线学习与分布式系统的集成对于应对现实应用中多媒体数据日益增长的规模和复杂性至关重要。
• 未来研究应聚焦于可扩展、自适应且高效的机器学习算法，能够直接在高维多媒体特征上运行，而无需大量预处理。