Skip to main content
QUICK REVIEW

[論文レビュー] Content-Adaptive Variable Framerate Encoding Scheme for Green Live Streaming

Vignesh V Menon, Samira Afzal|arXiv (Cornell University)|Nov 14, 2023
Image and Video Quality Assessment被引用数 7
ひとこと要約

本稿では、グリーンライブストリーミング向けに、コンテンツに応じた可変フレームレート(CVFR)符号化方式を提案する。低コストのDCTベースの空間的・時間的特徴を用いて、ビットレート階層ごとに最適なフレームレートと符号化プリセットを動的に選択する。CVFR-ECOは、エンコードおよびストレージエネルギーをそれぞれ34.54%および76.24%削減する。CVFR-HQは、2.43 dBのPSNR向上および10.14 VMAFポイントの向上を達成し、ストレージエネルギーを83.18%低減する。両者とも低遅延制約下で実現可能である。

ABSTRACT

Adaptive live video streaming applications use a fixed predefined configuration for the bitrate ladder with constant framerate and encoding presets in a session. However, selecting optimized framerates and presets for every bitrate ladder representation can enhance perceptual quality, improve computational resource allocation, and thus, the streaming energy efficiency. In particular, low framerates for low-bitrate representations reduce compression artifacts and decrease encoding energy consumption. In addition, an optimized preset may lead to improved compression efficiency. To this light, this paper proposes a Content-adaptive Variable Framerate (CVFR) encoding scheme, which offers two modes of operation: ecological (ECO) and high-quality (HQ). CVFR-ECO optimizes for the highest encoding energy savings by predicting the optimized framerate for each representation in the bitrate ladder. CVFR-HQ takes it further by predicting each representation's optimized framerate-encoding preset pair using low-complexity discrete cosine transform energy-based spatial and temporal features for compression efficiency and sustainable storage. We demonstrate the advantage of CVFR using the x264 open-source video encoder. The results show that CVFR-ECO yields an average PSNR and VMAF increase of 0.02 dB and 2.50 points, respectively, for the same bitrate, compared to the fastest preset highest framerate encoding. CVFR-ECO also yields an average encoding and storage energy consumption reduction of 34.54% and 76.24%, considering a just noticeable difference (JND) of six VMAF points. In comparison, CVFR-HQ yields an average increase in PSNR and VMAF of 2.43 dB and 10.14 points, respectively, for the same bitrate. Finally, CVFR-HQ resulted in an average reduction in storage energy consumption of 83.18%, considering a JND of six VMAF points.

研究の動機と目的

  • 持続可能性を考慮したライブストリーミングの高エネルギー消費を低減するため、符号化パラメータを最適化すること。
  • ライブストリーミングにおける知覚的品質を損なわず、データセンターの計算およびストレージエネルギーコストを低減すること。
  • 動的なフレームレートおよびプリセット選択に適応した、低遅延のエンコードを可能にすること。
  • 知覚的冗長性を最小限に抑えるために、閾値がわずかに差を感じる(JND)に基づく表現除去アルゴリズムを用いること。
  • 多様なストリーミングサービスニーズに対応する2つの運用モード(エネルギー最適化:CVFR-ECO、品質最適化:CVFR-HQ)を提供すること。

提案手法

  • 空間的および時間的ドメインからの低コストのDCTエネルギー特徴を用いて、ビットレートラダー内の各表現に対して最適なフレームレートおよび符号化プリセットを予測するランダムフォレストモデルを採用する。
  • 知覚的冗長な表現を削除するJNDベースの表現除去アルゴリズムを用いて、データサイズおよびエネルギー消費を低減する。
  • 2つのモードを実装する:CVFR-ECOは最速のプリセットと最適化されたフレームレートを用いてエンコードエネルギーを最小化する。CVFR-HQはフレームレートとプリセットを共同最適化し、最大の圧縮効率を達成する。
  • 標準的なライブストリーミングコンテンツを用いて、x264エンコーダーを用いて評価し、固定フレームレートおよび最速プリセットのベースライン符号化と比較する。
  • エネルギー削減はエンコードおよびストレージエネルギー消費の観点から定量的に評価され、PSNRおよびVMAF指標を用いて品質が保持されていることを確認する。
  • エネルギーおよびビットレート削減の計算において、知覚的品質同等性を定義するためのJND閾値として6 VMAFポイントを用いる。
Figure 1 : An example scenario of a VFR encoding scheme for adaptive streaming that encodes a video segment of ultra-high definition resolution and 30fps in representation (7.8 Mbps, 1080p) with the selected framerate of 15fps. On the client side, red dashed blocks indicate the additional steps intr
Figure 1 : An example scenario of a VFR encoding scheme for adaptive streaming that encodes a video segment of ultra-high definition resolution and 30fps in representation (7.8 Mbps, 1080p) with the selected framerate of 15fps. On the client side, red dashed blocks indicate the additional steps intr

実験結果

リサーチクエスチョン

  • RQ1コンテンツに応じた可変フレームレート符号化により、知覚的品質を損なわず、エンコードおよびストレージエネルギー消費を削減できるか?
  • RQ2ビットレート階層ごとにフレームレートおよび符号化プリセットを動的に選択することで、圧縮効率およびエネルギー消費にどのような影響を与えるか?
  • RQ3エンコードエネルギー(CVFR-ECO)または圧縮効率(CVFR-HQ)を最適化する際の、知覚的品質とエネルギー効率のトレードオフはどのようなものか?
  • RQ4JNDベースの表現除去により、どの程度知覚的冗長性を低減できるか、かつ品質を維持できるか?
  • RQ5提案された方式は、低遅延制約下で、既存のHTTP動的ストリーミング(HAS)アーキテクチャへの最小限の変更で、ライブストリーミングに適用可能か?

主な発見

  • CVFR-ECOは、固定フレームレートおよび最速プリセットの符号化と比較して、平均エンコードエネルギー消費を34.54%削減し、ストレージエネルギーを76.24%削減した。JND閾値は6 VMAFポイントとした。
  • CVFR-ECOは、同じPSNRを維持する場合に17.91%のビットレート削減を達成し、同じVMAFを維持する場合に13.54%のビットレート削減を達成した。
  • CVFR-HQは、同じビットレートで平均PSNRを2.43 dB向上させ、VMAFを10.14ポイント向上させ、品質面でベースラインを上回った。
  • CVFR-HQは、同じJND閾値(6 VMAFポイント)のもとで、ストレージエネルギー消費をベースライン比83.18%低減した。
  • エンコードエネルギーはベースライン比282.94%高いが、CVFR-HQは優れた圧縮効率を実現し、ストレージおよび伝送エネルギーの大幅な削減を達成した。
  • 提案されたJNDベースの表現除去は、知覚的品質を保持したまま、データサイズおよびエネルギー消費を効果的に低減した。
(a) Average PSNR.
(a) Average PSNR.

より良い研究を、今すぐ始めましょう

論文の読解から最終レビューまで、研究時間を劇的に削減しましょう。

クレジットカード登録不要

このレビューはAIが作成し、人間の編集者が確認しました。