[論文レビュー] On the Robustness of Deep Learning-predicted Contention Models for Network Calculus

Fabien Geyer, Steffen Bondorf|arXiv (Cornell University)|Nov 24, 2019

Advanced Graph Neural Networks参考文献 56被引用数 10

ひとこと要約

この論文は、高速かつ正確なネットワーク計算（NC）解析のためのディープラーニングベースのヒューリスティクスであるDeepTMAを拡張し、複数のトランジット分解代替案の予測を可能にすることで、耐障害性を向上させている。モデルは小さなランダムに生成されたネットワークで学習され、最大2桁大きい規模のネットワークにまで一般化効果を示しており、平均して相対誤差が0.3%未満に抑えられ、提案されたDeepTMAn拡張による複数の競合モデル予測では誤差が2倍低減された。

ABSTRACT

The network calculus (NC) analysis takes a simple model consisting of a network of schedulers and data flows crossing them. A number of analysis "building blocks" can then be applied to capture the model without imposing pessimistic assumptions like self-contention on tandems of servers. Yet, adding pessimism cannot always be avoided. To compute the best bound on a single flow's end-to-end delay thus boils down to finding the least pessimistic contention models for all tandems of schedulers in the network - and an exhaustive search can easily become a very resource intensive task. The literature proposes a promising solution to this dilemma: a heuristic making use of machine learning (ML) predictions inside the NC analysis. While results of this work were promising in terms of delay bound quality and computational effort, there is little to no insight on when a prediction is made or if the trained algorithm can achieve similarly striking results in networks vastly differing from its training data. In this paper, we address these pending questions. We evaluate the influence of the training data and its features on accuracy, impact and scalability. Additionally, we contribute an extension of the method by predicting the best $n$ contention model alternatives in order to achieve increased robustness for its application outside the training data. Our numerical evaluation shows that good accuracy can still be achieved on large networks although we restrict the training to networks that are two orders of magnitude smaller.

研究の動機と目的

• DeepTMAの一般化性能がネットワークサイズやトポロジーにわたってどのように影響を受けるかを評価すること。
• 特にネットワークタイプや特徴量の特性が予測精度に与える影響を評価すること。
• トランジット分解の複数代替予測を可能にすることで、DeepTMAの信頼性を向上させること。
• 正確な競合モデル予測に最も影響を与えるネットワーク特徴量を特定する洞察を提供すること。

提案手法

• グラフニューラルネットワーク（GNN）を用いて、与えられたネットワークグラフ内のフローに対して最適な競合モデル（トランジット分解）を予測する。
• サービスレート、アラートレート、バースト性、パス順序、サービス遅延などの特徴量をGNNの入力として使用する。
• GNN内のメッセージパッシング機構により、ネットワーク全体にわたる局所的情報を統合し、競合モデルに関するグローバルな意思決定を行う。
• 提案されたDeepTMAn拡張は、単一の予測ではなく上位n件の競合モデル予測を生成することで、耐障害性を向上させる。
• 特徴量の重要度は、順列ベースの重要度スコアリングを用いて評価され、予測に最も寄与する入力特徴量を同定する。
• モデルは小さなランダムに生成されたサーバー構造のグラフで学習され、先行研究で得られた大規模な実世界に類似したトポロジーで評価される。

実験結果

リサーチクエスチョン

• RQ1 訓練データの選択（例：ランダムネットワーク対構造的ネットワーク）が、未観測ネットワークにおけるDeepTMAの予測精度にどのように影響するか？
• RQ2 DeepTMAは、サーバー数が2桁以上多い大規模ネットワークに、どれほど一般化できるか？
• RQ3 どのネットワーク特徴量が正しい競合モデル予測を決定づける上で最も重要か？
• RQ4 複数の競合モデル代替案を予測することで、耐障害性がどのように向上し、予測誤差はどのように低減されるか？
• RQ5 GNNにおけるメッセージパッシングの反復回数は、予測精度と計算効率にどのように影響するか？

主な発見

• DeepTMAは、トレーニングセットよりも最大2桁大きいネットワークに対しても、平均して相対誤差が0.3%未満の範囲で効果的に一般化している。
• ランダムネットワークで学習した場合でも、トランジットやツリー構造のような構造的トポロジーにおいて優れた性能を示しており、訓練データを特化させる必要がない可能性を示唆している。
• サーバーのサービスレートが予測において最も重要な特徴量であり、次にパス順序が続く。一方、アラートバースト性とレートは著しく低い影響を持つ。
• GNNは主に局所的情報（4〜5回のメッセージパッシング反復内）に依存しており、意思決定において長距離依存性が重要でないことが示唆された。
• DeepTMAnによる複数予測の生成により、単一予測のDeepTMAと比較して相対誤差が2倍低減された。
• DeepTMA8を用いることで、大規模ネットワークで相対誤差が0.02%未満に抑えられ、高いスケーラビリティと耐障害性を示した。