[논문 리뷰] On the Robustness of Deep Learning-predicted Contention Models for Network Calculus

Fabien Geyer, Steffen Bondorf|arXiv (Cornell University)|2019. 11. 24.

Advanced Graph Neural Networks참고 문헌 56인용 수 10

한 줄 요약

이 논문은 빠르고 정확한 네트워크 계산(NC) 분석을 위한 딥러닝 기반 히우리스틱인 DeepTMA를 확장하여, 병목 현상 모델의 다중 탄생형 분해 대안 예측 기능을 도입함으로써 정확도를 향상시켰다. 소규모 랜덤 네트워크로 훈련된 모델은 최대 두 배수의 크기까지 확장된 대규모 네트워크로도 효과적으로 일반화되며, 평균적으로 상대 오차가 0.3% 미만을 기록한다. 제안된 DeepTMAn 확장 기능을 통해 다중 병목 현상 모델을 예측할 경우 오차가 2배 감소한다.

ABSTRACT

The network calculus (NC) analysis takes a simple model consisting of a network of schedulers and data flows crossing them. A number of analysis "building blocks" can then be applied to capture the model without imposing pessimistic assumptions like self-contention on tandems of servers. Yet, adding pessimism cannot always be avoided. To compute the best bound on a single flow's end-to-end delay thus boils down to finding the least pessimistic contention models for all tandems of schedulers in the network - and an exhaustive search can easily become a very resource intensive task. The literature proposes a promising solution to this dilemma: a heuristic making use of machine learning (ML) predictions inside the NC analysis. While results of this work were promising in terms of delay bound quality and computational effort, there is little to no insight on when a prediction is made or if the trained algorithm can achieve similarly striking results in networks vastly differing from its training data. In this paper, we address these pending questions. We evaluate the influence of the training data and its features on accuracy, impact and scalability. Additionally, we contribute an extension of the method by predicting the best $n$ contention model alternatives in order to achieve increased robustness for its application outside the training data. Our numerical evaluation shows that good accuracy can still be achieved on large networks although we restrict the training to networks that are two orders of magnitude smaller.

연구 동기 및 목표

• DeepTMA의 일반화 능력이 네트워크 크기 및 구조에 따라 어떻게 변하는지 평가하기 위해.
• 특히 네트워크 유형 및 특징과 같은 훈련 데이터 특성들이 예측 정확도에 미치는 영향을 평가하기 위해.
• 탄젠트 분해를 위한 다중 대안 예측 기능을 도입함으로써 DeepTMA의 신뢰성을 향상시키기 위해.
• 정확한 병목 현상 모델 예측에 가장 영향을 미치는 네트워크 특징을 규명하기 위해.

제안 방법

• 그래프 신경망(GNN)이 주어진 흐름에 대해 네트워크 그래프에서 최적의 병목 현상 모델(탄젠트 분해)을 예측하도록 훈련된다.
• 서비스 비율, 도착 비율, 복잡성, 경로 순서, 서비스 지연 시간 등의 특징을 GNN의 입력으로 사용한다.
• GNN 내의 메시지 전달 메커니즘을 통해 네트워크 전역에서 국소 정보를 집계하여 병목 현상 모델에 대한 전역적 결정을 내린다.
• 제안된 DeepTMAn 확장 기능은 단일 예측이 아닌 상위-n 병목 현상 모델 예측을 생성함으로써 정확도를 향상시킨다.
• 특징 중요도는 순열 기반 중요도 스코어링을 사용하여 예측에 가장 중요한 입력을 규명한다.
• 모델은 소규모 랜덤 생성 서버 그래프로 훈련되고, 이전 연구에서 제안된 대규모 실세계 유사 구조의 네트워크로 평가된다.

실험 결과

연구 질문

• RQ1 훈련 데이터의 선택(예: 랜덤 대비 구조적 네트워크)이 미관측 네트워크에서 DeepTMA 예측 정확도에 어떤 영향을 미치는가?
• RQ2 DeepTMA는 소규모 훈련 네트워크에서 출발하여 서버 수가 두 배수 이상 증가한 대규모 네트워크로 얼마나 잘 일반화되는가?
• RQ3 정확한 병목 현상 모델 예측을 결정하는 데 가장 영향을 미치는 네트워크 특징는 무엇인가?
• RQ4 다중 병목 현상 모델 대안을 예측함으로써 정확도는 어떻게 향상되고 오차는 어떻게 감소하는가?
• RQ5 GNN 내의 메시지 전달 반복 수는 예측 정확도와 계산 효율성에 어떤 영향을 미치는가?

주요 결과

• DeepTMA는 훈련 데이터보다 두 배수 이상 큰 네트워크로도 효과적으로 일반화되며, 평균적으로 상대 오차가 0.3% 이하를 유지한다.
• 랜덤 네트워크로 훈련된 결과는 텐던트 및 트리 네트워크와 같은 구조적 구조에서도 뛰어난 성능을 보이며, 특화된 훈련 데이터가 반드시 필요하지 않음을 시사한다.
• 서버의 서비스 비율이 예측에 가장 중요한 특징이며, 그 다음으로 경로 순서가 중요하고, 도착 복잡성과 도착 비율은 상대적으로 영향이 낮다.
• GNN은 주로 국소 정보(4~5회 메시지 전달 반복 내)에 의존하므로, 장거리 종속성은 결정 과정에 있어 덜 중요하다는 것을 시사한다.
• DeepTMAn을 통해 다중 예측을 생성함으로써 단일 예측 기반 DeepTMA 대비 상대 오차가 2배 감소한다.
• DeepTMA8를 사용할 경우 대규모 네트워크에서 상대 오차가 0.02% 미만으로 감소하여 높은 확장성과 강건성을 입증한다.