[論文レビュー] ConfigTron: Tackling network diversity with heterogeneous configurations

Usama Naseer, Theophilus Benson|arXiv (Cornell University)|Aug 13, 2019

Caching and Content Delivery被引用数 5

ひとこと要約

ConfigTron は、エンドユーザーのパフォーマンスを向上させるために、トランスポート層およびアプリケーション層のウェブサーバー構成を動的にチューニングするデータ駆動型でオンライン学習可能なフレームワークを提案する。文脈的マルチアームドバンディットを用い、接続の特性に基づいてリアルタイムで構成を適応させる。多様なネットワーク環境下で、中央値のページロード時間を最大19%（750ms）短縮する。

ABSTRACT

The web serving protocol stack is constantly changing and evolving to tackle technological shifts in networking infrastructure and website complexity. As a result of this evolution, the web serving stack includes a plethora of protocols and configuration parameters that enable the web serving stack to address a variety of realistic network conditions. Yet, today, most content providers have adopted a "one-size-fits-all" approach to configuring the networking stack of their user facing web servers (or at best employ moderate tuning), despite the significant diversity in end-user networks and devices. In this paper, we revisit this problem and ask a more fundamental question: Are there benefits to tuning the network stack? If so, what system design choices and algorithmic ensembles are required to enable modern content provider to dynamically and flexibly tune their protocol stacks. We demonstrate through substantial empirical evidence that this "one-size-fits-all" approach results in sub-optimal performance and argue for a novel framework that extends existing CDN architectures to provide programmatic control over the configuration options of the CDN serving stack. We designed ConfigTron a data-driven framework that leverages data from all connections to identify their network characteristics and learn the optimal configuration parameters to improve end-user performance. ConfigTron uses contextual multi-arm bandit-based learning algorithm to find optimal configurations in minimal time, enabling a content providers to systematically explore heterogeneous configurations while improving end-user page load time by as much as 19% (upto 750ms) on median.

研究の動機と目的

• 多様なエンドユーザーのネットワークやデバイスにおいて、『ワンサイズ・フィット・オール』のアプローチによる性能の最適でない状態を是正すること。
• プロトコルおよびパラメータの細分化された動的チューニングが、エンドユーザーのページロード時間を顕著に改善できるかどうかを調査すること。
• コンテンツプロバイダーが、ライブのパフォーマンスフィードバックに基づいてリアルタイムで構成を体系的かつ適応的に探索・変更できるシステムを設計すること。
• 動的ネットワーク状態やワークロード変動に適応できない静的またはオフラインチューニング手法の限界を克服すること。
• ネットワークやエンドホストインフラの変更なしに、プロトコルスタック構成に対するプログラマティック制御を可能にする、デプロイ可能でスケーラブルなフレームワークを提供すること。

提案手法

• トランスポート層およびアプリケーション層のパrameterの高次元な構成空間において、探索と活用のバランスを取るために文脈的マルチアームドバンディットアルゴリズムを採用する。
• すべてのアクティブな接続からのリアルタイムパフォーマンスフィードバックを活用して、構成意思決定を支援する動的パフォーマンスモデルを構築する。
• 複数の接続からのライブデータを活用し、ネットワーク状態、デバイスタイプ、ウェブサイトの複雑さにわたる最適な構成を一般化する。
• 同時に複数の構成ノブ（例：コグネッション制御（BBR、Cubicなど）、初期ウィンドウサイズ（initcwnd）、ペーシング、HTTPプロトコルバージョン）をチューニングできる。
• ネットワークやエンドホストインフラの変更なしに、CDNサービングスタックの再構成をプログラム可能にするインターフェースを外部化することで、最適化ロジックを分離する。
• 生産環境でスケーラブルに動作し、進行中の接続に影響を与えずにリアルタイムでの適応が可能である。

実験結果

リサーチクエスチョン

• RQ1 複数のプロトコル層にわたる動的でデータ駆動型の構成チューニングは、デフォルトまたは静的構成と比較して、エンドユーザーのページロード時間を顕著に短縮できるか？
• RQ2 文脈的バンディットに基づく学習アプローチは、多様で動的なネットワーク環境において最適な構成を特定するのにどの程度有効か？
• RQ3 多様なエンドユーザーのネットワークにおいて、単一の構成を適用するのと、文脈に応じた適応的構成選択を行うのとでは、パフォーマンスにどのような差が生じるか？
• RQ4 ConfigTron のオンラインでリアルタイムの学習アプローチは、ネットワークのダイナミクスとワークロード変動を扱う際、オフラインまたは静的チューニング手法と比較してどの程度優れているか？
• RQ5 トランスポート層およびアプリケーション層のパrameterを連携して同時にチューニングすることで、システム全体のパフォーマンス向上をどの程度達成できるか？

主な発見

• 『ワンサイズ・フィット・オール』の構成アプローチは、多様なネットワーク環境下で顕著な中央値のページロード時間の劣化を引き起こし、性能が最適でないことが判明した。
• ConfigTron は、データ駆動型の動的チューニングにより、デフォルト構成と比較して中央値のページロード時間を最大19%（750ms）短縮した。
• 文脈的バンディットに基づく学習アプローチにより、最小限の探索オーバーヘッドで最適な構成に迅速に収束できることが確認された。
• ConfigTron は、静的チューニング、ベイズ最適化、オフライン学習モデルと比較して、リアルタイムのネットワークダイナミクスとワークロード変動に適応できることで優れた性能を発揮した。
• コグネッション制御、初期ウィンドウサイズ、ペーシング、HTTPバージョンの複数のパrameterを同時にチューニングすることで、個々のパrameterのチューニングよりも顕著なパフォーマンス向上が得られた。
• ライブデプロイと大規模シミュレーションの両方から、ConfigTron のフレームワークが生産環境のCDN環境において実効的かつ即時デプロイ可能であることが示された。