[논문 리뷰] MLOps: A Step Forward to Enterprise Machine Learning

Aliza Tabassam|arXiv (Cornell University)|2023. 05. 27.

Big Data and Business Intelligence인용 수 8

한 줄 요약

MLOps에 대한 포괄적 검토, 그 이점, 도전과제, 그리고 엔터프라이즈 전체 흐름에서 TensorFlow 기반 객체 탐지 서비스를 배포하는 엔드투엔드 예시를 제시합니다.

ABSTRACT

Machine Learning Operations (MLOps) is becoming a highly crucial part of businesses looking to capitalize on the benefits of AI and ML models. This research presents a detailed review of MLOps, its benefits, difficulties, evolutions, and important underlying technologies such as MLOps frameworks, Docker, GitHub actions, and Kubernetes. The MLOps workflow, which includes model design, deployment, and operations, is explained in detail along with the various tools necessary for both model and data exploration and deployment. This article also puts light on the end-to-end production of ML projects using various maturity levels of automated pipelines, with the least at no automation at all and the highest with complete CI/CD and CT capabilities. Furthermore, a detailed example of an enterprise-level MLOps project for an object detection service is used to explain the workflow of the technology in a real-world scenario. For this purpose, a web application hosting a pre-trained model from TensorFlow 2 Model Zoo is packaged and deployed to the internet making sure that the system is scalable, reliable, and optimized for deployment at an enterprise level.

연구 동기 및 목표

• 기업에서 AI/ML을 활용하기 위한 MLOps의 중요성을 고무합니다.
• MLOps의 진화, 이점 및 도전과제를 요약합니다.
• MLOps에서 사용되는 핵심 기술, 도구 및 프레임워크를 식별합니다.
• 다양한 성숙도 수준의 자동화로 AI 프로젝트 프로덕션을 엔드투엔드로 설명합니다.

제안 방법

• 설계, 배포, 운영 등 MLOps 개념, 워크플로우 및 라이프사이클 단계를 조사합니다.
• MLOps 프레임워크, Docker, GitHub Actions, Kubernetes 등의 기저 기술과 도구를 논의합니다.
• 저성숙도에서 고성숙도까지의 자동화(CI/CD 및 CT)와 함께 ML 프로젝트의 엔드투엔드 프로덕션 구현을 설명합니다.
• 사전 학습된 TensorFlow 2 Model Zoo 모델을 객체 탐지에 패키징하고 배포하는 구체적인 엔터프라이즈 예시를 제공합니다.
• 확장성, 안정성 및 엔터프라이즈 배포에 대한 고려사항을 설명합니다.

실험 결과

연구 질문

• RQ1 기업 환경에서 MLOps를 도입하는 이점과 어려움은 무엇인가요?
• RQ2 MLOps 워크플로우를 지원하는 필수 기술과 프레임워크는 무엇인가요?
• RQ3 다양한 자동화 수준으로 엔드투엔드 생산 파이프라인을 어떻게 구현할 수 있나요?
• RQ4 객체 탐지 서비스에 대한 실제 엔터프라이즈 MLOps 배포는 어떠한 모습인가요?

주요 결과

• MLOps 프레임워크, Docker, GitHub Actions, 및 Kubernetes는 현대 MLOps 생태계의 중심입니다.
• 최소한의 자동화에서 전체 CI/CD 및 CT에 이르기까지 서로 다른 성숙도 수준으로 자동화 파이프라인을 통해 엔드투엔드 ML 프로덕션을 달성할 수 있습니다.
• 기업급 객체 탐지 프로젝트는 확장 가능하고 신뢰할 수 있는 배포 워크플로를 보여줍니다.
• 사전 학습된 TensorFlow 2 Model Zoo 모델을 패키징하고 배포하는 것은 인터넷에 호스팅된 웹 애플리케이션을 통해 접근 가능하게 만들 수 있습니다.