[论文解读] A Content-Driven Micro-Video Recommendation Dataset at Scale

Yongxin Ni, Yu Cheng+6 more|arXiv (Cornell University)|Sep 27, 2023

Recommender Systems and TechniquesComputer Science被引用 3

一句话总结

本文介绍了 MicroLens，这是目前公开可用的最大规模微视频推荐数据集，包含十亿条用户-物品交互记录、三千四百万名用户以及一百万段富含原始模态（文本、图像、音频、视频）的视频。该数据集支持推荐任务中端到端的视频表征学习，其性能优于基于ID的模型，并证明原始视频特征可有效替代物品ID，尤其在冷启动和热门物品场景下表现更优。

ABSTRACT

Micro-videos have recently gained immense popularity, sparking critical research in micro-video recommendation with significant implications for the entertainment, advertising, and e-commerce industries. However, the lack of large-scale public micro-video datasets poses a major challenge for developing effective recommender systems. To address this challenge, we introduce a very large micro-video recommendation dataset, named "MicroLens", consisting of one billion user-item interaction behaviors, 34 million users, and one million micro-videos. This dataset also contains various raw modality information about videos, including titles, cover images, audio, and full-length videos. MicroLens serves as a benchmark for content-driven micro-video recommendation, enabling researchers to utilize various modalities of video information for recommendation, rather than relying solely on item IDs or off-the-shelf video features extracted from a pre-trained network. Our benchmarking of multiple recommender models and video encoders on MicroLens has yielded valuable insights into the performance of micro-video recommendation. We believe that this dataset will not only benefit the recommender system community but also promote the development of the video understanding field. Our datasets and code are available at https://github.com/westlake-repl/MicroLens.

研究动机与目标

• 解决推荐研究领域中缺乏大规模、多样化且高质量的公开微视频数据集的问题。
• 提供一个包含丰富原始视频模态（文本、图像、音频、完整视频）的基准数据集，以支持内容驱动的推荐模型研究。
• 支持推荐系统中视频编码器与推荐模型的端到端联合训练。
• 探究当前视频理解与视频推荐之间性能差距的成因，并探索视频表征在提升推荐准确率方面的潜力。
• 通过提供视觉推荐的预训练资源，推动通用型、基础模型风格推荐系统的开发。

提出的方法

• 通过主页刷新机制从一个社交娱乐平台收集40万条种子微视频，以确保多样性。
• 基于互动量（≥10,000个赞或≥100条评论）对视频进行筛选，以保证质量和受欢迎程度。
• 为每段视频获取完整的模态信息：视频标题（文本）、封面图、音频片段和原始视频文件。
• 通过爬取视频页面中的外部链接，扩展数据集以增强内容多样性。
• 构建最终包含一百万段视频和十亿条用户-物品交互记录的数据集，使用评论行为作为用户偏好的代理指标。
• 对超过10种推荐模型和视频编码器进行基准测试，包括新型端到端（E2E）训练设置，即联合优化视频编码器与推荐头。

实验结果

研究问题

• RQ1 与使用预提取特征相比，是否可以通过端到端训练视频编码器与推荐模型，实现更优的推荐性能？
• RQ2 使用原始视频特征的推荐准确率，与仅使用封面图或物品ID相比如何？
• RQ3 在高度热门物品的场景下，基于视频的推荐模型是否仍能超越基于ID的模型？
• RQ4 与传统基于ID或图像的模型相比，原始视频表征在冷启动物品上的性能提升程度如何？
• RQ5 MicroLens作为基础模型在视频理解与推荐任务中的预训练数据集，其潜力有多大？

主要发现

• 所提出的 VideoRec 模型通过直接从原始视频学习表征，在所有评估指标上均持续优于 IDRec 和 ImageRec 基线模型。
• 视频编码器与推荐模型的端到端联合训练实现了最先进性能，证明了联合优化的价值。
• VideoRec 即在热门物品场景下也优于 IDRec，表明原始视频特征可在实际推荐系统中有效替代物品ID。
• VideoRec 在冷门物品上表现显著提升，尤其在冷启动场景下提升更为明显（见附录图6）。
• 仅使用封面图（ImageRec）的性能低于使用完整视频特征（VideoRec），凸显了时间与运动信息在视频理解中的重要性。
• MicroLens 具备足够的规模与多样性，可支持基础模型的预训练，通过帧级采样甚至可生成数万亿级别的用户-视频交互。