[论文解读] VDMS: Efficient Big-Visual-Data Access for Machine Learning Workloads

Luis Remis, Vishakha Gupta-Cledat+2 more|arXiv (Cornell University)|Oct 28, 2018

Advanced Data Storage Technologies参考文献 7被引用 6

一句话总结

VDMS 是一个开源的视觉数据管理系统，通过在持久内存图数据库中索引元数据，并使用机器友好的视觉计算库，加速机器学习任务中的大规模视觉数据访问。与使用现成组件的临时系统相比，其在复杂查询上的性能最高可提升 2 倍。

ABSTRACT

We introduce the Visual Data Management System (VDMS), which enables faster access to big-visual-data and adds support to visual analytics. This is achieved by searching for relevant visual data via metadata stored as a graph, and enabling faster access to visual data through new machine-friendly storage formats. VDMS differs from existing large scale photo serving, video streaming, and textual big-data management systems due to its primary focus on supporting machine learning and data analytics pipelines that use visual data (images, videos, and feature vectors), treating these as first class entities. We describe how to use VDMS via its user friendly interface and how it enables rich and efficient vision analytics through a machine learning pipeline for processing medical images. We show the improved performance of 2x in complex queries over a comparable set-up.

研究动机与目标

• 解决机器学习和分析流水线中缺乏可扩展、统一的视觉数据管理系统的现状。
• 降低将元数据、存储和预处理工具组合使用的临时数据访问堆栈所带来的复杂性和性能开销。
• 通过单一、用户友好的 API，实现对图像、视频和带丰富元数据的特征向量的高效、统一访问。
• 提升涉及元数据遍历和大规模图像检索的复杂查询的性能。
• 在灵活、可扩展的架构中，支持元数据模式的演进以及机器学习驱动的元数据增强。

提出的方法

• VDMS 采用客户端-服务器架构，使用持久内存图数据库（PMGD）将视觉元数据作为属性图进行存储和查询。
• 它采用自定义的视觉计算库（VCL）原生处理机器友好的视觉数据格式，并支持服务端预处理。
• 元数据查询通过在 PMGD 上进行图遍历执行，实现对复杂关系（如患者、扫描、治疗）的高效搜索。
• 视觉数据检索和预处理（如调整大小）在服务端集中进行，减少了网络传输开销。
• 该系统提供高层级的 Python API，统一元数据搜索和视觉数据操作，抽象出底层 I/O 和处理逻辑。
• VDMS 基于持久内存硬件构建，以加速元数据访问并提升整体系统吞吐量。

实验结果

研究问题

• RQ1 统一的视觉数据管理系统是否能在查询性能方面显著优于使用现有工具临时组合的方案？
• RQ2 将图像预处理功能与服务端共置，对端到端查询延迟和数据传输量有何影响？
• RQ3 在复杂视觉分析工作负载中，持久内存优化的图数据库在多大程度上能提升元数据查询性能？
• RQ4 单一高层级 API 是否能降低复杂视觉机器学习流水线中的代码复杂度和开发工作量？
• RQ5 VDMS 如何支持在获得新的机器学习洞察后对元数据模式的演进？

主要发现

• 与使用 MemSQL、Apache HTTP 和 OpenCV 的基线系统相比，VDMS 在复杂查询（如检索 75 岁以上接受替莫唑胺化疗的患者的所有脑部扫描）中实现了 2 倍的性能提升。
• VDMS 的服务端预处理显著减少了数据传输量，特别是在大规模图像检索场景下，显著降低了端到端延迟。
• 系统在简单查询上也保持了高性能，未出现性能下降，表明其在各类查询类型间实现了均衡的效率。
• VDMS 显著减少了实现复杂视觉数据流水线所需的代码行数，简化了开发和可复现性。
• 使用持久内存优化的 PMGD 使元数据访问速度大幅提升，尤其在涉及图遍历和大规模数据集的工作负载中，性能增益更加明显。
• 统一的 API 以及对特征向量和视觉数据格式的原生支持，简化了与机器学习流水线的集成，尤其在医学影像领域。