[论文解读] Enhancing ensemble learning and transfer learning in multimodal data analysis by adaptive dimensionality reduction

Andrea Marinoni, Saloua Chlaily+5 more|arXiv (Cornell University)|May 8, 2021

Domain Adaptation and Few-Shot Learning参考文献 72被引用 5

一句话总结

本论文提出了一种基于双图拉普拉斯的自适应降维方法，以增强多模态数据分析中的集成学习与迁移学习。通过识别不同大小数据子集中的最相关特征，该方法提升了模型的鲁棒性与准确性，在遥感、脑机接口和光伏能数据集上均优于当前最先进技术。

ABSTRACT

Modern data analytics take advantage of ensemble learning and transfer learning approaches to tackle some of the most relevant issues in data analysis, such as lack of labeled data to use to train the analysis models, sparsity of the information, and unbalanced distributions of the records. Nonetheless, when applied to multimodal datasets (i.e., datasets acquired by means of multiple sensing techniques or strategies), the state-of-theart methods for ensemble learning and transfer learning might show some limitations. In fact, in multimodal data analysis, not all observations would show the same level of reliability or information quality, nor an homogeneous distribution of errors and uncertainties. This condition might undermine the classic assumptions ensemble learning and transfer learning methods rely on. In this work, we propose an adaptive approach for dimensionality reduction to overcome this issue. By means of a graph theory-based approach, the most relevant features across variable size subsets of the considered datasets are identified. This information is then used to set-up ensemble learning and transfer learning architectures. We test our approach on multimodal datasets acquired in diverse research fields (remote sensing, brain-computer interfaces, photovoltaic energy). Experimental results show the validity and the robustness of our approach, able to outperform state-of-the-art techniques.

研究动机与目标

• 解决传统集成学习与迁移学习在多模态数据分析中的局限性，即不同模态间的数据质量与可靠性存在差异。
• 通过根据特征相关性自适应调整降维过程，克服标准方法中对数据质量与误差分布同质性的假设。
• 通过基于图的相关性分析进行有针对性的特征选择，提升模型收敛性并降低对初始条件的敏感性。
• 通过将自适应特征选择整合到集成学习与迁移学习流程中，增强多模态学习架构的鲁棒性与准确性。
• 在遥感、生物医学（BCI）及能效系统等多个领域中，验证该方法的有效性。

提出的方法

• 应用双图拉普拉斯框架，对多个数据子集中的特征相关性进行建模，捕捉模态间与模态内关系。
• 利用图论方法，通过分析特征的连通性及其对整体数据结构的贡献，识别最具信息量的特征。
• 将所选特征集成到集成学习与迁移学习架构中，以提升模型泛化能力与稳定性。
• 采用带有高斯核与互信息核的谱聚类作为基线方法，用于降维性能对比。
• 设计归纳式迁移学习框架，通过改变源域大小来测试方法的鲁棒性与适应能力。
• 采用基于KLIEP的域自适应方法作为基准，评估自适应降维带来的性能提升。

实验结果

研究问题

• RQ1 如何使降维方法能够自适应地应对多模态数据集中不同数据质量与可靠性的变化？
• RQ2 自适应特征选择在多模态设置下的集成学习与迁移学习性能提升程度如何？
• RQ3 基于图的特征相关性检测是否能够提升模型收敛性并降低对初始化的敏感性？
• RQ4 与采用高斯核和互信息核的谱聚类相比，所提方法在准确率与鲁棒性方面表现如何？
• RQ5 自适应降维是否能在遥感、BCI与光伏能等多样化应用领域中实现一致的性能提升？

主要发现

• 在多模态遥感数据集上，所提自适应降维方法相较基于高斯核的谱聚类，整体分类准确率提升了6.4%。
• 在脑机接口数据集上，该方法相较基于互信息核的降维方法，准确率提高了7.1%。
• 在光伏能数据集上，该方法相较互信息核基线，准确率提升了7.7%。
• 该方法在全部三个数据集上均显著优于两种谱聚类基线方法，其中在光伏能与BCI应用中提升最为显著。
• 自适应降维有效降低了模型变异性，并加快了收敛速度，尤其在源域大小变化的迁移学习设置中表现突出。
• 当与自适应降维结合时，基于KLIEP的迁移学习框架在性能上获得显著提升，尤其在源域规模增大时更为明显。