[论文解读] Highly-Economized Multi-View Binary Compression for Scalable Image Clustering

Zheng Zhang, Li Liu+6 more|arXiv (Cornell University)|Sep 17, 2018

Advanced Image and Video Retrieval Techniques参考文献 43被引用 4

一句话总结

该论文提出HSIC，一种用于可扩展多视图图像聚类的新框架，通过统一优化联合学习紧凑二值表示和鲁棒离散聚类结构。通过利用$ε$-范数约束的离散优化，整合视图特定信息与共享信息，HSIC将欧几里得距离计算简化为高效的XOR操作，实现在大规模数据集（如NUS-WIDE，100万特征，81秒完成，5.52MB内存）上比$k$-means减少95%内存占用和90%运行时间的最先进聚类性能。

ABSTRACT

How to economically cluster large-scale multi-view images is a long-standing problem in computer vision. To tackle this challenge, we introduce a novel approach named Highly-economized Scalable Image Clustering (HSIC) that radically surpasses conventional image clustering methods via binary compression. We intuitively unify the binary representation learning and efficient binary cluster structure learning into a joint framework. In particular, common binary representations are learned by exploiting both sharable and individual information across multiple views to capture their underlying correlations. Meanwhile, cluster assignment with robust binary centroids is also performed via effective discrete optimization under L21-norm constraint. By this means, heavy continuous-valued Euclidean distance computations can be successfully reduced by efficient binary XOR operations during the clustering procedure. To our best knowledge, HSIC is the first binary clustering work specifically designed for scalable multi-view image clustering. Extensive experimental results on four large-scale image datasets show that HSIC consistently outperforms the state-of-the-art approaches, whilst significantly reducing computational time and memory footprint.

研究动机与目标

• 解决因高维实值特征和昂贵的欧几里得距离计算导致的大规模多视图图像聚类可扩展性瓶颈。
• 开发一种统一框架，联合优化二值表示学习与离散聚类结构学习，以提升效率与性能。
• 通过紧凑二值编码将连续值运算替换为快速二进制XOR运算，降低聚类过程中的计算与内存开销。
• 通过最小化内存占用和计算时间，实现在资源受限设备上的实际部署，同时保持高聚类准确率。
• 克服现有单视图或多视图聚类方法的局限，通过在二值空间中整合跨异构视图的共享与个体信息。

提出的方法

• 提出一种联合优化框架，通过交替优化方法同时学习通用二值表示与离散聚类中心。
• 采用$ε$-范数约束的离散优化模型，学习鲁棒的二值聚类中心，提升聚类稳定性和性能。
• 将多个视图中的可共享信息与视图特异性（个体）信息整合到统一的二值码表示中，以保留跨视图相关性。
• 通过将数据映射到低维汉明空间，将昂贵的实值欧几里得距离计算替换为高效的二进制XOR操作。
• 使用交替优化算法求解联合离散优化问题，确保二值码与聚类分配的高质量离散解。
• 应用自适应权重学习，动态平衡不同视图在二值码学习中的重要性，提升表示质量。

实验结果

研究问题

• RQ1 是否可通过统一框架联合学习二值表示与离散聚类结构，显著提升大规模多视图图像聚类的可扩展性与性能？
• RQ2 在二值空间中，整合多个异构视图的共享与个体信息对聚类性能有何影响？
• RQ3 将实值欧几里得距离计算替换为二进制XOR操作，能在多大程度上降低计算与内存成本而不牺牲聚类准确率？
• RQ4 在大规模数据集上，与最先进实值与二值聚类方法相比，所提方法在准确率、速度与内存效率方面表现如何？
• RQ5 所提方法对聚类数量与码长变化是否具有鲁棒性？能否自适应确定最优聚类配置？

主要发现

• HSIC在四个大规模多视图数据集上均达到最先进聚类性能，持续优于实值与二值聚类基线方法。
• 在包含5个视图、约100万特征的NUS-WIDE数据集上，HSIC仅用81秒与5.52 MB内存完成聚类，而$k$-means需29分钟与961 MB内存。
• 与$k$-means相比，HSIC内存使用减少超过95%，计算速度提升超过90%，展现出强大的可扩展性。
• 即使在短码长条件下，HSIC仍保持高性能，当码长超过32位时，其性能优于$k$-means。
• 消融实验表明，若移除任意组件（如平衡约束或独立性约束），性能显著下降，验证了统一设计的必要性。
• HSIC对聚类数量变化表现出强适应性，在Cifar-10数据集上10个聚类时性能最优，且在所有测试的聚类数中始终位列前三名。