[论文解读] MLOps Spanning Whole Machine Learning Life Cycle: A Survey

Fang Zhengxin, Yi Yuan+9 more|arXiv (Cornell University)|Apr 13, 2023

Big Data and Business Intelligence被引用 5

一句话总结

本综述通过将机器学习视为一个操作性流水线，全面而贯穿整个生命周期地概述了MLOps，整合了从数据准备到模型部署和监控各个阶段的关键技术与实践。它为研究人员和从业者提供了一个统一的参考，以理解端到端的机器学习运维，并定位各阶段的详细资源。

ABSTRACT

Google AlphaGos win has significantly motivated and sped up machine learning (ML) research and development, which led to tremendous ML technical advances and wider adoptions in various domains (e.g., Finance, Health, Defense, and Education). These advances have resulted in numerous new concepts and technologies, which are too many for people to catch up to and even make them confused, especially for newcomers to the ML area. This paper is aimed to present a clear picture of the state-of-the-art of the existing ML technologies with a comprehensive survey. We lay out this survey by viewing ML as a MLOps (ML Operations) process, where the key concepts and activities are collected and elaborated with representative works and surveys. We hope that this paper can serve as a quick reference manual (a survey of surveys) for newcomers (e.g., researchers, practitioners) of ML to get an overview of the MLOps process, as well as a good understanding of the key technologies used in each step of the ML process, and know where to find more details.

研究动机与目标

• 为整个机器学习生命周期中的MLOps现状提供清晰、结构化的概述。
• 将分散的机器学习技术与概念整合为一个连贯的运维框架，以促进采纳与理解。
• 作为“综述中的综述”，为初学者提供各阶段机器学习开发中相关文献与工具的引导。
• 通过围绕生命周期阶段组织技术，厘清机器学习运维不断演变的格局，尤其为该领域的新人提供清晰指引。

提出的方法

• 本文将机器学习生命周期划分为若干独立的运维阶段，包括数据管理、模型训练、验证、部署、监控和版本控制。
• 将关键的MLOps技术与工具映射到每个阶段，基于代表性文献与综述，确保技术准确性与相关性。
• 作者采用系统性的“综述中的综述”方法，综合现有文献的见解，形成对MLOps的全景式理解。
• 针对每个阶段分析核心挑战、标准实践与代表性工具，支持跨阶段比较与整合。
• 强调互操作性与自动化，突出现代MLOps工具如何提升数据科学家、工程师与DevOps团队之间的协作效率。
• 采用主题化与流程导向的视角，统一多样化的机器学习技术，避免碎片化，促进一致的运维模式。

实验结果

研究问题

• RQ1 如何系统性地将MLOps应用于整个机器学习生命周期，以提升模型的可靠性与可扩展性？
• RQ2 在从数据到部署和监控的ML生命周期各阶段中，关键的技术与工具是什么？
• RQ3 现有综述与工具之间如何相互关联？当前MLOps实践中仍存在哪些空白？
• RQ4 自动化、版本控制与监控在确保机器学习系统可复现性与运维稳定性方面发挥什么作用？
• RQ5 机器学习领域的新人应如何高效地应对复杂且快速演进的MLOps生态系统？

主要发现

• 本文建立了一个贯穿机器学习生命周期所有阶段的统一MLOps框架，涵盖从数据预处理到模型监控的全过程。
• 识别出版本控制、自动化与可观测性作为可扩展且可靠的机器学习运维的三大核心支柱。
• 综述强调了MLOps与DevOps实践在生产环境中的日益紧密整合。
• 证明将MLOps与成熟软件工程原则结合，可显著提升模型的可复现性与可维护性。
• 作者确认，现有工具与实践已足够成熟，可支持企业级机器学习部署，但对新人而言仍存在知识鸿沟。
• 该综述作为实用参考，将每个MLOps阶段与特定工具及文献对应，支持高效入职与研究导航。