[논문 리뷰] ConfigTron: Tackling network diversity with heterogeneous configurations

Usama Naseer, Theophilus Benson|arXiv (Cornell University)|2019. 08. 13.

Caching and Content Delivery인용 수 5

한 줄 요약

ConfigTron은 웹 서버의 전송 및 응용 계층 설정을 실시간으로 동적으로 조정하여 최종 사용자 성능을 향상시키는 데이터 기반의 온라인 학습 프레임워크를 제안한다. 맥락 기반 다중 손잡이 밴딧을 사용하여 연결 특성에 기반해 설정을 실시간으로 적응시키며, 다양한 네트워크 조건에서 중앙값 페이지 로드 시간을 최대 19% (750ms) 감소시킨다.

ABSTRACT

The web serving protocol stack is constantly changing and evolving to tackle technological shifts in networking infrastructure and website complexity. As a result of this evolution, the web serving stack includes a plethora of protocols and configuration parameters that enable the web serving stack to address a variety of realistic network conditions. Yet, today, most content providers have adopted a "one-size-fits-all" approach to configuring the networking stack of their user facing web servers (or at best employ moderate tuning), despite the significant diversity in end-user networks and devices. In this paper, we revisit this problem and ask a more fundamental question: Are there benefits to tuning the network stack? If so, what system design choices and algorithmic ensembles are required to enable modern content provider to dynamically and flexibly tune their protocol stacks. We demonstrate through substantial empirical evidence that this "one-size-fits-all" approach results in sub-optimal performance and argue for a novel framework that extends existing CDN architectures to provide programmatic control over the configuration options of the CDN serving stack. We designed ConfigTron a data-driven framework that leverages data from all connections to identify their network characteristics and learn the optimal configuration parameters to improve end-user performance. ConfigTron uses contextual multi-arm bandit-based learning algorithm to find optimal configurations in minimal time, enabling a content providers to systematically explore heterogeneous configurations while improving end-user page load time by as much as 19% (upto 750ms) on median.

연구 동기 및 목표

• 다양한 최종 사용자 네트워크와 기기에서 '한 가지 크기만 맞는' 설정 방식으로 인한 성능 저하 문제를 해결한다.
• 다양한 프로토콜 및 설정 파rameter의 미세 조정을 통해 최종 사용자 페이지 로드 시간을 크게 향상시킬 수 있는지 조사한다.
• 콘텐츠 제공자가 실시간 성능 피드백 기반으로 설정을 체계적으로 탐색하고 적응할 수 있도록 시스템을 설계한다.
• 동적인 네트워크 조건과 워크로드 변동성에 대응하지 못하는 정적 또는 오프라인 설정 방법의 한계를 극복한다.
• 네트워크나 최종 호스트 인프라 변경 없이도 프로그래밍 방식으로 프로토콜 스택 설정을 제어할 수 있도록 확장 가능한 CDN 아키텍처를 지원하는 구현 가능한 확장 가능한 프레임워크를 제공한다.

제안 방법

• 전송 및 응용 계층 파rameter의 고차원 설정 공간에서 탐색과 이용의 균형을 이루는 맥락 기반 다중 손잡이 밴딧 알고리즘을 적용한다.
• 모든 활성 연결으로부터의 실시간 성능 피드백을 활용해 설정 결정을 안내하는 동적 성능 모델을 구축한다.
• 다양한 네트워크 조건, 기기 유형, 웹사이트 복잡성에 걸쳐 최적 설정을 일반화하기 위해 다수의 연결에서의 실시간 데이터를 활용한다.
• 혼잡 제어(예: BBR, Cubic), 초기 창 크기(initcwnd), 패싱, HTTP 프로토콜 버전 등 다수의 설정 노브를 동시에 조정할 수 있다.
• 네트워크나 최종 호스트 인프라 변경 없이도 CDN 서빙 스택의 설정을 프로그래밍 방식으로 재구성할 수 있도록 최적화 로직을 외부화한다.
• 실제 운영 환경에서 스케일링이 가능하며, 기존 연결에 영향을 주지 않고 실시간으로 적응한다.

실험 결과

연구 질문

• RQ1 다양한 프로토콜 계층에서의 동적이고 데이터 기반의 설정 조정이 기본 설정 또는 정적 설정 대비 최종 사용자 페이지 로드 시간을 크게 줄일 수 있는가?
• RQ2 맥락 기반 밴딧 기반 학습 접근법이 다양한 동적 네트워크 조건에서 최적 설정을 식별하는 데 얼마나 효과적인가?
• RQ3 이질적인 최종 사용자 네트워크에서 단일 설정을 사용하는 것과 비교해, 적응형이고 맥락 인식 설정 선택이 성능에 미치는 영향은 어떠한가?
• RQ4 ConfigTron의 온라인 실시간 학습 접근법이 네트워크 다이나믹스와 워크로드 변동성을 다루는 데 있어 오프라인 또는 정적 설정 방법보다 어떻게 우월한가?
• RQ5 운영 체계 전체의 성능 향상을 위해 전송 계층과 응용 계층 파arameter를 조율하여 동시에 조정할 경우, 얼마나 큰 성능 향상을 기대할 수 있는가?

주요 결과

• '한 가지 크기만 맞는' 설정 접근법은 다양한 네트워크 조건에서 상당한 중앙값 페이지 로드 시간 저하를 초래하며, 성능이 열악하다.
• ConfigTron은 동적이고 데이터 기반의 설정 조정을 통해 기본 설정 대비 최대 19% (750ms)의 중앙값 페이지 로드 시간 감소를 달성한다.
• 맥락 기반 밴딧 기반 학습 접근법은 탐색 오버헤드를 최소화하면서도 최적 설정에 빠르게 수렴한다.
• ConfigTron은 정적 설정, 베이지안 최적화, 오프라인 학습 모델보다 실시간 네트워크 다이나믹스와 워크로드 변동성에 적응함으로써 뛰어난 성능을 발휘한다.
• 혼잡 제어, 초기 창 크기, 패싱, HTTP 버전 등 여러 설정 파arameter를 동시에 조정하면 개별 파arameter만 조정하는 것보다 더 큰 성능 향상을 얻을 수 있다.
• 실시간 배포와 대규모 시뮬레이션을 통해 ConfigTron의 프레임워크가 생산 환경의 CDN 환경에서 실제로 효과적이며 즉시 구현 가능하다는 것이 입증되었다.