[论文解读] OpenDataLab: Empowering General Artificial Intelligence with Open Datasets

Conghui He, Wei Li+4 more|arXiv (Cornell University)|Jun 4, 2024

Scientific Computing and Data Management被引用 4

一句话总结

OpenDataLab 推出一个统一的开放数据平台，通过一种新型的数据集描述语言（DSDL）对多模态人工智能数据集进行标准化，实现高效的数据发现、高速下载和智能标注。通过将多样化的数据集和工具整合到一个连贯的流水线中，该平台将数据准备效率提升了30%，从而加速人工通用智能（AGI）的研究。

ABSTRACT

The advancement of artificial intelligence (AI) hinges on the quality and accessibility of data, yet the current fragmentation and variability of data sources hinder efficient data utilization. The dispersion of data sources and diversity of data formats often lead to inefficiencies in data retrieval and processing, significantly impeding the progress of AI research and applications. To address these challenges, this paper introduces OpenDataLab, a platform designed to bridge the gap between diverse data sources and the need for unified data processing. OpenDataLab integrates a wide range of open-source AI datasets and enhances data acquisition efficiency through intelligent querying and high-speed downloading services. The platform employs a next-generation AI Data Set Description Language (DSDL), which standardizes the representation of multimodal and multi-format data, improving interoperability and reusability. Additionally, OpenDataLab optimizes data processing through tools that complement DSDL. By integrating data with unified data descriptions and smart data toolchains, OpenDataLab can improve data preparation efficiency by 30\%. We anticipate that OpenDataLab will significantly boost artificial general intelligence (AGI) research and facilitate advancements in related AI fields. For more detailed information, please visit the platform's official website: https://opendatalab.com.

研究动机与目标

• 解决不同格式、模态和来源的人工智能数据集之间的碎片化和不兼容问题。
• 克服数据孤岛和互操作性问题，以提升人工智能研究中数据利用的效率。
• 提供一个统一平台，实现跨多样化人工智能任务的无缝数据访问、标注和集成。
• 支持大模型开发的完整生命周期，包括预训练、微调和评估。
• 建立标准化且可扩展的数据集描述与许可框架，确保透明度和法律合规性。

提出的方法

• 引入下一代数据集描述语言（DSDL），以统一多模态和多格式数据集的元数据表示。
• 部署多层平台架构，包含数据源、数据流水线、数据工具、用户服务和客户端接口等专用层级。
• 采用基于机器学习和 AGI 的智能标注工具——LabelU 和 LabelLLM，以提升标注效率和准确性。
• 通过优化的数据流水线服务以及用户友好的图形界面、命令行接口和软件开发工具包（SDK）堆栈，实现高速数据检索与下载。
• 支持多种开放许可证（CC、ODC、CDLA），并保持完整的元数据可追溯性，以确保数据来源和合规性。
• 整合超过 6,500 个开放数据集，涵盖 30 多种格式，包括 60 亿张图像、8 亿段视频剪辑、1TB 个文本标记、100 万个 3D 模型以及 2 万小时音频。

实验结果

研究问题

• RQ1 标准化的数据描述语言在异构人工智能数据集之间如何提升互操作性和可重用性？
• RQ2 智能数据工具链在大规模人工智能模型开发中，能在多大程度上减少数据准备时间？
• RQ3 何种架构设计能够实现统一人工智能数据平台中多样化数据源和工具的高效集成？
• RQ4 OpenDataLab 在数据可访问性、元数据标准化和多模态支持方面，如何优于现有平台？
• RQ5 统一的数据管理对 AGI 研究的可扩展性和可复现性有何影响？

主要发现

• OpenDataLab 整合了超过 6,500 个开放数据集，涵盖 30 多种格式，支持 50 多种人工智能任务类型，总数据量超过 80TB。
• 平台通过标准化的 DSDL 和智能工具链实现数据获取与标注，将数据准备效率提升 30%。
• DSDL 实现了多模态数据间一致且机器可读的元数据表示，显著增强了跨模态和跨任务的数据集成能力。
• OpenDataLab 支持全面的许可证透明度，涵盖 CC、ODC 和 CDLA，确保法律合规性和数据溯源。
• 与 Kaggle、Hugging Face 和 ModelScope 等现有平台相比，OpenDataLab 在多模态数据支持、数据可视化和元数据标准化方面表现更优。
• LabelU 和 LabelLLM 工具的集成显著提升了标注的准确性和效率，尤其在复杂、多模态和基于对话的标注任务中表现突出。