[논문 리뷰] Resource Provisioning and Profit Maximization for Transcoding in Information Centric Networking

Guanyu Gao, Yonggang Wen외 1명|arXiv (Cornell University)|2016. 05. 18.

Caching and Content Delivery참고 문헌 4인용 수 4

한 줄 요약

이 논문은 클라우드 기반 비디오 트랜스코딩 시스템에서 작업 스케줄링과 동적 자원 프로비저닝을 위한 이중 시간스케일 확률적 최적화 프레임워크를 제안하며, 서비스 수익을 극대화하기 위해 딥 강화학습을 사용한다. 학습된 정책을 통해 VM 할당과 작업 우선순위를 공동 최적화함으로써 기준 방법 대비 더 높은 수익과 더 낮은 자원 소비를 달성한다.

ABSTRACT

Adaptive bitrate streaming (ABR) has been widely adopted to support video streaming services over heterogeneous devices and varying network conditions. With ABR, each video content is transcoded into multiple representations in different bitrates and resolutions. However, video transcoding is computing intensive, which requires the transcoding service providers to deploy a large number of servers for transcoding the video contents published by the content producers. As such, a natural question for the transcoding service provider is how to provision the computing resource for transcoding the video contents while maximizing service profit. To address this problem, we design a cloud video transcoding system by taking the advantage of cloud computing technology to elastically allocate computing resource. We propose a method for jointly considering the task scheduling and resource provisioning problem in two timescales, and formulate the service profit maximization as a two-timescale stochastic optimization problem. We derive some approximate policies for the task scheduling and resource provisioning. Based on our proposed methods, we implement our open source cloud video transcoding system Morph and evaluate its performance in a real environment. The experiment results demonstrate that our proposed method can reduce the resource consumption and achieve a higher profit compared with the baseline schemes.

연구 동기 및 목표

• 클라우드 환경에서 비디오 트랜스코딩을 위한 계산 자원을 효율적으로 프로비저닝하면서 서비스 제공자의 수익을 극대화하는 데 도전한다.
• 빠른(작업 수준) 및 느린(자원 수준) 시간스케일에서 작업 스케줄링과 자원 프로비저닝을 공동 최적화한다.
• 변동성이 크고 예측할 수 없는 워크로드 하에서 자원 낭비와 처리 지연을 줄인다.
• 실세계 조건에서 제안된 최적화 프레임워크를 구현하고 평가할 수 있는 실용적이고 오픈소스 시스템(Morph)을 개발한다.

제안 방법

• 수익 극대화 문제를 빠른 시간스케일(작업 스케줄링)과 느린 시간스케일(자원 프로비저닝)을 갖춘 이중 시간스케일 마르코프 결정 과정(MDP)으로 수식화한다.
• 작업 스케줄링과 VM 할당을 위한 최적 정책을 학습하기 위해 딥 Q네트워크(DQN) 기반 강화학습 접근법을 사용한다.
• 변동하는 워크로드에도 불구하고 스케줄링 정확도를 향상시키기 위해 비디오 블록당 트랜스코딩 시간을 추정하는 신경망 모델을 도입한다.
• 빠른 시간스케일에서는 가치 기반 작업 스케줄링(VBS) 정책을, 느린 시간스케일에서는 학습 기반 자원 프로비저닝(LRP) 정책을 사용한다.
• 실제 클라우드 인프라에 배포된 평가를 위해 오픈소스 도구인 Morph로 시스템을 구현한다.
• 학습 기반 자원 프로비저닝과 가치 기반 작업 스케줄링을 조합한 하이브리드 정책인 LRP-VBS를 구현하여 최적의 성능을 달성한다.

실험 결과

연구 질문

• RQ1 시간에 따라 변하는 워크로드 하에서 클라우드 기반 비디오 트랜스코딩에서 수익을 극대화하기 위해 계산 자원을 어떻게 동적으로 프로비저닝할 수 있는가?
• RQ2 트랜스코딩 시스템에서 다양한 시간스케일에서 작업 스케줄링과 자원 할당의 최적 공동 전략은 무엇인가?
• RQ3 정확한 트랜스코딩 시간 추정이 스케줄링 효율성과 수익에 어떤 영향을 미치는가?
• RQ4 강화학습 기반 정책이 고정 또는 히우리스틱 기반 프로비저닝 및 스케줄링 전략보다 얼마나 뛰어나게 성능을 발휘하는가?
• RQ5 실세계 시스템 구현을 통해 제안된 최적화 프레임워크의 확장성과 수익성은 어느 정도 입증될 수 있는가?

주요 결과

• 제안된 LRP-VBS 정책은 고정 정책(FP), 도착률 기반 정책(ARP), LRP-HVF를 포함한 모든 기준 방법 대비 24시간 동안 누적 수익이 더 높게 기록되었다.
• LRP-VBS 정책은 워크로드 변화에 따라 활성 VM 인스턴스 수를 효과적으로 조정하여 저교통 기간 동안 자원 낭비를 줄였다.
• 고성능을 유지하면서도 자원 소비를 줄여 클라우드 인프라의 효율적 이용을 입증했다.
• ARP 방법은 처리 지연으로 인한 수익 손실을 고려하지 않기 때문에, 학습 기반 자원 프로비저닝 정책이 ARP보다 뛰어난 성능을 보였다.
• 빠른 시간스케일에서 VBS 작업 스케줄링 정책이 HVF(Highest Value First)보다 우수하여 LRP-VBS의 전체 수익 증가에 기여했다.
• 신경망 기반 트랜스코딩 시간 추정기로 인해 스케줄링 정확도가 향상되어 VM 워크로드 및 자원 할당 예측이 향상되었다.