[论文解读] Projection Bank: From High-dimensional Data to Medium-length Binary Codes

Li Liu, Mengyang Yu+1 more|arXiv (Cornell University)|Sep 16, 2015

Advanced Image and Video Retrieval Techniques参考文献 31被引用 4

一句话总结

本文提出二值投影库（BPB），一种新颖方法，通过学习一组小型、最大间隔的投影，将高维特征（如Fisher向量）高效压缩为中等长度的二进制码（1000–10000位），同时保留数据相似性。与单个或双线性投影不同，BPB在显著降低内存占用和编码复杂度的同时，实现了最先进的检索与识别准确率，使其在大规模应用中更具实用性。

ABSTRACT

Recently, very high-dimensional feature representations, e.g., Fisher Vector, have achieved excellent performance for visual recognition and retrieval. However, these lengthy representations always cause extremely heavy computational and storage costs and even become unfeasible in some large-scale applications. A few existing techniques can transfer very high-dimensional data into binary codes, but they still require the reduced code length to be relatively long to maintain acceptable accuracies. To target a better balance between computational efficiency and accuracies, in this paper, we propose a novel embedding method called Binary Projection Bank (BPB), which can effectively reduce the very high-dimensional representations to medium-dimensional binary codes without sacrificing accuracies. Instead of using conventional single linear or bilinear projections, the proposed method learns a bank of small projections via the max-margin constraint to optimally preserve the intrinsic data similarity. We have systematically evaluated the proposed method on three datasets: Flickr 1M, ILSVR2010 and UCF101, showing competitive retrieval and recognition accuracies compared with state-of-the-art approaches, but with a significantly smaller memory footprint and lower coding complexity.

研究动机与目标

• 解决在大规模视觉应用中，Fisher向量等极高维表示带来的高计算与存储成本问题。
• 在不损失准确率的前提下，实现将高维数据高效嵌入中等长度二进制码（1000–10000位）的目标。
• 相比现有线性或双线性投影方法，降低内存占用和编码复杂度。
• 通过最大间隔约束的投影库，保留数据的内在相似性。
• 在资源开销极小的前提下，实现在检索与识别任务中的竞争力表现。

提出的方法

• 通过最大间隔约束学习一组小型投影矩阵，以在二进制码空间中最优地保留数据相似性。
• 不采用单一大型投影矩阵，BPB改用一组紧凑且可学习的投影，降低存储与计算开销。
• 投影库通过基于间隔的优化目标进行训练，以保持相似数据点之间的语义相似性。
• 核化变体KBPPB通过引入RBF核函数，扩展BPB以建模投影空间中的非线性关系。
• 编码阶段将学习到的投影库应用于新样本，以极低计算成本生成二进制码。
• 该方法在使用线性与非线性投影时均进行了评估，参数通过交叉验证进行调优。

实验结果

研究问题

• RQ1 一组小型、最大间隔的投影是否能有效将高维特征压缩为中等长度的二进制码，同时保留语义相似性？
• RQ2 与ITQ和BPBC等最先进方法相比，BPB在准确率、内存使用与编码复杂度方面表现如何？
• RQ3 在不同数据集上实现稳健性能的最优基样本数量与正则化参数为何值？
• RQ4 BPB能否在压缩码下同时保持在无监督检索与有监督识别任务中的高准确率？
• RQ5 核化变体KBPPB是否能在复杂高维数据上进一步提升性能？

主要发现

• 在Flickr 1M、ILSVRC2010与UCF101数据集上，BPB在中等码长（1000–10000位）下实现了具有竞争力的检索准确率，优于ITQ与BPBC。
• 在UCF101数据集上，KBPPB 2使用17040位码实现了82.18%的动作识别准确率，优于原始FV（80.33%）及其他压缩方法。
• 与ITQ相比，BPB将编码复杂度降低了90%以上：10000位码仅需1.7×10^9次乘法运算，而ITQ需1.7×10^9次（单个矩阵）。
• 投影的内存占用显著降低——BPB所需存储远低于RR+PQ与ITQ，后两者在超过10000位后变得不可行。
• 核化变体KBPPB在所有码长下均取得最佳性能，当基样本数不少于1000时，结果稳定。
• 参数敏感性分析表明，在Flickr 1M上最优性能对应λ ∈ (10⁻¹, 1)，在ILSVRC2010上对应λ ∈ (1, 10)。