[论文解读] On the Robustness of Deep Learning-predicted Contention Models for Network Calculus

Fabien Geyer, Steffen Bondorf|arXiv (Cornell University)|Nov 24, 2019

Advanced Graph Neural Networks参考文献 56被引用 10

一句话总结

该论文通过支持多种串联分解替代方案的预测，扩展了DeepTMA——一种基于深度学习的快速且精确的网络计算（NC）分析启发式方法，以提升鲁棒性。模型在小型随机生成的网络上进行训练，可有效泛化至规模大两个数量级的大型网络，平均相对误差低于0.3%，通过所提出的DeepTMAn扩展方法预测多个竞争模型时，误差降低两倍。

ABSTRACT

The network calculus (NC) analysis takes a simple model consisting of a network of schedulers and data flows crossing them. A number of analysis "building blocks" can then be applied to capture the model without imposing pessimistic assumptions like self-contention on tandems of servers. Yet, adding pessimism cannot always be avoided. To compute the best bound on a single flow's end-to-end delay thus boils down to finding the least pessimistic contention models for all tandems of schedulers in the network - and an exhaustive search can easily become a very resource intensive task. The literature proposes a promising solution to this dilemma: a heuristic making use of machine learning (ML) predictions inside the NC analysis. While results of this work were promising in terms of delay bound quality and computational effort, there is little to no insight on when a prediction is made or if the trained algorithm can achieve similarly striking results in networks vastly differing from its training data. In this paper, we address these pending questions. We evaluate the influence of the training data and its features on accuracy, impact and scalability. Additionally, we contribute an extension of the method by predicting the best $n$ contention model alternatives in order to achieve increased robustness for its application outside the training data. Our numerical evaluation shows that good accuracy can still be achieved on large networks although we restrict the training to networks that are two orders of magnitude smaller.

研究动机与目标

• 评估DeepTMA在不同网络规模和拓扑结构下的泛化鲁棒性。
• 评估训练数据特征（尤其是网络类型和特征）对预测准确率的影响。
• 通过支持串联分解的多替代方案预测，提升DeepTMA的可靠性。
• 揭示哪些网络特征对准确预测竞争模型最具影响力。

提出的方法

• 使用图神经网络（GNN）预测给定网络图中某一流量的最优竞争模型（串联分解）。
• 模型将服务速率、到达速率、突发性、路径顺序和服务延迟等特征作为GNN的输入。
• GNN中的消息传递机制聚合网络中的局部信息，以做出关于竞争模型的全局决策。
• 所提出的DeepTMAn扩展方法生成前n个竞争模型预测结果，而非单一结果，从而提升鲁棒性。
• 通过基于排列的重要性评分方法评估特征重要性，以识别对预测至关重要的输入特征。
• 模型在小型随机生成的服务器图上进行训练，并在先前工作中提出的大型真实世界类似拓扑上进行评估。

实验结果

研究问题

• RQ1 训练数据的选择（如随机网络与结构化网络）如何影响DeepTMA在未见网络上的预测准确率？
• RQ2 DeepTMA在多大程度上能从规模较小的训练网络泛化到规模大两个数量级、服务器数量多出两个数量级的大规模网络？
• RQ3 哪些网络特征对确定正确的竞争模型预测最具影响力？
• RQ4 预测多个竞争模型替代方案在多大程度上提升了鲁棒性并降低了预测误差？
• RQ5 GNN中消息传递迭代次数如何影响预测准确率和计算效率？

主要发现

• DeepTMA能有效泛化至比训练集大两个数量级的网络，平均相对误差保持在0.3%以下。
• 在随机网络上进行训练，可在如串联和树状等结构化拓扑上实现优异性能，表明可能无需针对特定网络类型定制训练数据。
• 服务器的服务速率是预测中最重要的特征，其次是路径顺序，而到达突发性和速率的影响则显著较低。
• GNN主要依赖局部信息（4–5轮消息传递内），表明长距离依赖关系对决策影响较小。
• 通过DeepTMAn生成多个预测结果，相比单预测的DeepTMA，相对误差降低两倍。
• 在大型网络上，模型使用DeepTMA8可实现低于0.02%的相对误差，展现出极高的可扩展性和鲁棒性。