[論文レビュー] Resource Provisioning and Profit Maximization for Transcoding in Information Centric Networking

Guanyu Gao, Yonggang Wen+1 more|arXiv (Cornell University)|May 18, 2016

Caching and Content Delivery参考文献 4被引用数 4

ひとこと要約

本稿では、深層強化学習を用いてサービス利益を最大化するため、クラウドベースの動画トランスコードシステムにおけるジョブスケジューリングと動的リソースプロビジョニングのための二段階時定数スケールの確率的最適化フレームワークを提案する。提案手法は、学習された方策を用いてVMの割り当てとジョブ優先順位を共同最適化することで、ベースライン手法と比較して高い利益と低いリソース消費を達成する。

ABSTRACT

Adaptive bitrate streaming (ABR) has been widely adopted to support video streaming services over heterogeneous devices and varying network conditions. With ABR, each video content is transcoded into multiple representations in different bitrates and resolutions. However, video transcoding is computing intensive, which requires the transcoding service providers to deploy a large number of servers for transcoding the video contents published by the content producers. As such, a natural question for the transcoding service provider is how to provision the computing resource for transcoding the video contents while maximizing service profit. To address this problem, we design a cloud video transcoding system by taking the advantage of cloud computing technology to elastically allocate computing resource. We propose a method for jointly considering the task scheduling and resource provisioning problem in two timescales, and formulate the service profit maximization as a two-timescale stochastic optimization problem. We derive some approximate policies for the task scheduling and resource provisioning. Based on our proposed methods, we implement our open source cloud video transcoding system Morph and evaluate its performance in a real environment. The experiment results demonstrate that our proposed method can reduce the resource consumption and achieve a higher profit compared with the baseline schemes.

研究の動機と目的

• クラウド環境における動画トランスコードのための計算リソースを効率的にプロビジョニングしつつ、サービスプロバイダーの利益を最大化すること。
• 高速（ジョブレベル）と遅速（リソースレベル）の異なる時定数スケールにおけるジョブスケジューリングとリソースプロビジョニングを共同最適化すること。
• 変動的で予測不可能なワークロード下でも、リソースの無駄と処理遅延を低減すること。
• 実世界の環境で評価可能な実用的でオープンソースのシステム（Morph）を構築し、提案された最適化フレームワークを実装すること。

提案手法

• 利益最大化問題を、高速時定数スケール（ジョブスケジューリング）と遅速時定数スケール（リソースプロビジョニング）を持つ二段階時定数スケールのマーカフ・意思決定過程（MDP）として定式化する。
• ジョブスケジューリングとVMの割り当ての最適方策を学習するため、ディープQネットワーク（DQN）に基づく強化学習手法を採用する。
• 動画ブロックごとのトランスコード時間の推定にニューラルネットワークモデルを導入し、変動するワークロードにもかかわらずスケジューリングの正確性を向上させる。
• 高速時定数スケールではバリューベースのジョブスケジューリング（VBS）方策を、遅速時定数スケールでは学習ベースのリソースプロビジョニング（LRP）方策を採用する。
• 実際のクラウドインfraストラクチャにデプロイされたオープンソースツールとしてMorphとして実装し、評価を実施する。
• 最適なパフォーマンスを達成するため、学習ベースのリソースプロビジョニングとバリューベースのジョブスケジューリングを組み合わせたハイブリッド方策（LRP-VBS）を採用する。

実験結果

リサーチクエスチョン

• RQ1 時間変動するワークロード下で、クラウドベースの動画トランスコードにおける計算リソースをどのように動的にプロビジョニングすれば、サービス利益を最大化できるか？
• RQ2 トランスコードシステムにおいて、異なる時定数スケールでのジョブスケジューリングとリソース割り当ての最適な共同戦略は何か？
• RQ3 正確なトランスコード時間推定を統合することで、スケジューリング効率と利益はどのように向上するか？
• RQ4 強化学習に基づく方策は、固定またはヒューリスティックベースのプロビジョニングおよびスケジューリング戦略と比較して、どの程度優れているか？
• RQ5 実世界のシステム実装は、提案された最適化フレームワークのスケーラビリティと収益性をどのように示せるか？

主な発見

• 提案されたLRP-VBS方策は、固定方策（FP）、到着率に基づく方策（ARP）、LRP-HVFと比較して24時間の累積サービス利益がより高い。
• LRP-VBS方策は、ワークロードの変化に応じてアクティブなVMインスタンスの数を効果的に調整し、低交通時におけるリソースの無駄を低減する。
• 高いスループットを維持しながらリソース消費を削減し、クラウドインfraストラクチャの効率的利用を示している。
• 学習ベースのリソースプロビジョニング方策は、ARP手法よりも優れている。これは、ARPが処理遅延による収益損失を無視しているのに対し、学習ベース方策がそれを考慮しているためである。
• 高速時定数スケールにおけるVBSジョブスケジューリング方策は、HVF（最高価値優先）を上回り、LRP-VBSの全体的な高い利益に寄与している。
• ニューラルネットワークベースのトランスコード時間推定器はスケジューリングの正確性を向上させ、VMワークロードとリソース割り当てのより良い予測を可能にしている。