[논문 리뷰] Auto-Scaling Network Resources using Machine Learning to Improve QoS and Reduce Cost

Sabidur Rahman, Tanjila Ahmed외 3명|arXiv (Cornell University)|2018. 08. 09.

Software-Defined Networks and 5G참고 문헌 19인용 수 9

한 줄 요약

이 논문은 역사적 트래픽 패턴과 시스템 성질을 사용하여 최적의 VNF 인스턴스 수를 예측하는 프로액티브 기계학습(ML)-기반 자동스케일링 프레임워크를 제안한다. 자동스케일링 문제를 지도 학습 분류 문제로 재정의함으로써, QoS를 향상시키고 운영 비용을 절감하며, 다양한 가상화 기술(Xen, KVM, Docker, LXC)에서 높은 정확도를 달성한다. 특성 공학, 학습곡선 분석, PCA 기반 특성 선택을 통해 반응형 접근 방식을 능가한다.

ABSTRACT

Virtualization of network functions (as virtual routers, virtual firewalls, etc.) enables network owners to efficiently respond to the increasing dynamicity of network services. Virtual Network Functions (VNFs) are easy to deploy, update, monitor, and manage. The number of VNF instances, similar to generic computing resources in cloud, can be easily scaled based on load. Hence, auto-scaling (of resources without human intervention) has been receiving attention. Prior studies on auto-scaling use measured network traffic load to dynamically react to traffic changes. In this study, we propose a proactive Machine Learning (ML) based approach to perform auto-scaling of VNFs in response to dynamic traffic changes. Our proposed ML classifier learns from past VNF scaling decisions and seasonal/spatial behavior of network traffic load to generate scaling decisions ahead of time. Compared to existing approaches for ML-based auto-scaling, our study explores how the properties (e.g., start-up time) of underlying virtualization technology impacts Quality of Service (QoS) and cost savings. We consider four different virtualization technologies: Xen and KVM, based on hypervisor virtualization, and Docker and LXC, based on container virtualization. Our results show promising accuracy of the ML classifier using real data collected from a private ISP. We report in-depth analysis of the learning process (learning-curve analysis), feature ranking (feature selection, Principal Component Analysis (PCA), etc.), impact of different sets of features, training time, and testing time. Our results show how the proposed methods improve QoS and reduce operational cost for network owners. We also demonstrate a practical use-case example (Software-Defined Wide Area Network (SD-WAN) with VNFs and backbone network) to show that our ML methods save significant cost for network service leasers.

연구 동기 및 목표

• 동적 네트워크 환경에서 반응형, 임계치 기반 자동스케일링의 한계를 해결하기 위해.
• 역사적 데이터와 시스템 특성을 활용해 트래픽 변화를 예측하는 프로액티브 기계학습 기반 자동스케일링 시스템을 개발하기 위해.
• 가상화 기술(하이퍼바이저 대비 컨테이너)이 자동스케일링 정확도, QoS 및 비용에 미치는 영향을 평가하기 위해.
• 실제 구현에 적합한 특성 중요도, 학습곡선, 모델 학습/테스트 효율성에 대한 심층 분석을 수행하기 위해.
• VNF와 백본 네트워크를 포함한 실제 SD-WAN 사용 사례에서 비용 및 QoS 향상을 입증하기 위해.

제안 방법

• 자동스케일링 문제를 지도 학습 분류 작업으로 재정의하여, 출력으로는 필요로 하는 VNF 인스턴스 수를 설정한다.
• 미래 트래픽 부하 예측 기반으로 QoS 우선 ML(QML) 및 비용 우선 ML(CML) 전략을 정의하여 QoS 확보 또는 과다 프로비저닝 최소화를 달성한다.
• 입력 특성으로 시간적 특성(일, 시간, 주중/주말)과 최근 트래픽 부하 값 및 변화(최대 27개 특성)를 다중 시간 윈도우에서 포함한다.
• 실제 ISP 트래픽 트레이스를 기반으로 WEKA에서 선정된 7개 최상위 알고리즘을 사용해 ML 분류기를 학습시키며, 정확도, 정밀도 및 F1-스코어를 통한 평가를 수행한다.
• 특성 영향 및 모델 수렴도 평가하기 위해 특성 선택, 주성분 분석(PCA), 학습곡선 분석을 적용한다.
• 실시간 구현 가능성 평가를 위해 학습 및 테스트 시간을 측정하며, 실제 SD-WAN 사용 사례에서 VNF와 백본 네트워크를 활용해 검증한다.

실험 결과

연구 질문

• RQ1 프로액티브 기계학습 기반 자동스케일링 접근 방식은 반응형 임계치 기반 방법 대비 QoS 향상과 운영 비용 절감에 어떻게 기여하는가?
• RQ2 다양한 가상화 기술(Xen, KVM, Docker, LXC)이 자동스케일링 정확도 및 성능에 어떤 영향을 미치는가?
• RQ3 시간적 및 트래픽 기반 특성 조합 중에서 VNF 스케일링 결정에 가장 높은 분류 정확도를 제공하는 것은 무엇인가?
• RQ4 학습 데이터 크기 및 특성 선택이 모델 학습 및 일반화에 어떤 영향을 미치는가?
• RQ5 QML 대비 CML 전략을 사용할 경우 QoS와 비용 절감 간의 상호 교환 관계는 어떠한가?

주요 결과

• 제안된 기계학습 기반 자동스케일링 프레임워크는 최적의 VNF 인스턴스 수 예측에 높은 분류 정확도를 달성하여 QoS 향상과 비용 절감을 크게 개선한다.
• QML은 향후 트래픽 피크를 우선 고려하여 QoS 유지 측면에서 CML을 능가하지만, CML은 과다 프로비저닝을 줄이고 운영 비용 절감에 기여한다.
• 시간 패턴(예: 시간대, 요일)과 트래픽 변화 추세(예: 과거 간격에서의 Δλ)를 통합한 특성 공학이 모델 정확도를 크게 향상시킨다.
• 학습곡선 분석 결과, 중간 크기의 학습 데이터로도 모델 성능이 안정화됨을 확인하여 현실적인 ISP 트레이스에서 효율적인 학습이 가능함을 시사한다.
• PCA 및 특성 선택을 통해 가장 영향력 있는 특성을 규명하였으며, 최근 트래픽 변화 및 시간대 패턴이 예측에 핵심적임을 확인하였다.
• 학습 및 테스트 시간이 실용적 범위 내에 있어, 실제 네트워크 환경에서 실시간 구현 가능성은 입증되었다.