[논문 리뷰] A cost-benefit analysis of low latency via added utilization

Ashish Vulimiri, Brighten Godfrey외 3명|arXiv (Cornell University)|2013. 06. 15.

Caching and Content Delivery참고 문헌 4인용 수 3

한 줄 요약

이 논문은 광역 클라이언트-서버 시스템에서 대역폭 사용을 늘리는 지연 시간 감소 기법을 평가하기 위한 경제적 성과 분석 프레임워크를 제안한다. 지연 시간 절감과 증가된 이용률 비용 간의 교환 관계를 정량화함으로써, 클라이언트와 서버 양측 모두가 추가 트래픽 1킬로바이트당 10ms 이상의 지연 시간 절감을 얻는 기법은 낙관적인 비용 추정치조차도 경제적으로 유리하다는 기준을 설정한다. 이는 부가적인 DNS 요청에 대한 사례 연구를 통해 검증된다.

ABSTRACT

Several recently proposed techniques achieve latency reduction by trading it off for some amount of additional bandwidth usage. But how would one quantify whether the tradeoff is actually beneficial in a given system? We develop an economic cost vs. benefit analysis for answering this question. We use the analysis to derive a benchmark for wide-area client-server applications, and demonstrate how it can be applied to reason about a particular latency saving technique --- redundant DNS requests.

연구 동기 및 목표

• 광역 클라이언트-서버 응용 프로그램에서 지연 시간 감소와 증가된 대역폭 사용 간의 경제적 교환 관계를 체계적으로 평가하기 위한 프레임워크를 개발하는 것.
• 실제 시장 가격과 성능 지표를 고려하여 클라이언트와 서버 양측의 관점에서 지연 시간 절감 기법의 비용과 성과를 정량화하는 것.
• 지연 시간 감소를 위해 추가 이용률을 투입하는 것이 경제적으로 정당화되는지를 판단할 수 있는 실용적 기준을 도출하는 것.
• 부가적인 DNS 요청에 대한 사례 연구를 통해 프레임워크의 실용적 영향을 검증함으로써, 웹 페이지 로드 시간에 미치는 영향을 평가하는 것.

제안 방법

• 프레임워크는 추가 트래픽 1킬로바이트당 지연 시간 절감량($\ell$)을 이득 대 비용 비율로 모델링하며, 클라이언트 및 서버 양측에 대해 정규화한다.
• 클라이언트 및 서버 측 대역폭 사용에 대한 정규화된 비용 매개변수($p_c$, $p_s$)와 각 측에서의 지연 시간 향상에 대한 가치 매개변수($v_c$, $v_s$)를 도입한다.
• 핵심 기준은 $\ell \geq \max\left\{ \frac{p_s}{v_s}, \frac{p_c}{v_c} \right\}$이며, 이는 클라이언트와 서버 양측이 기술에 대해 순수한 이득을 보는 것을 보장한다.
• AWS, Azure, CloudFront 등의 클라우드 제공업체와 AT&T, O2 등의 소비자 계약 가격 정보와 같은 공개된 가격 데이터를 사용하여 $p_c$와 $p_s$를 추정한다.
• 보수적인 비용 추정치를 사용하여 다양한 서비스 계약을 대상으로 분석함으로써, 손익분기 지연 시간 절감 기준($\ell$)을 도출한다.
• 프레임워크는 Chrome이 Emulab에서, Firefox가 DSL 환경에서 실행된 실제 배포 환경에서 평균 및 95프cntile 페이지 로드 시간 향상도를 측정하여 부가적인 DNS 요청에 적용한다.

실험 결과

연구 질문

• RQ1 클라이언트와 서버 양측 모두가 경제적으로 유리한지 확인하기 위해, 추가 트래픽 1킬로바이트당 최소한의 지연 시간 절감량은 얼마여야 하는가?
• RQ2 다양한 비용 구조(예: 이동통신 대비 DSL, 클라우드 대비 자체 호스팅)는 지연 시간 감소 기법의 채택 기준 경제적 임계값에 어떤 영향을 미치는가?
• RQ3 부가적인 DNS 요청은 실제 웹 페이지 로드 시간에 얼마나 기여하는가? 그리고 어느 지점부터 경제적으로 비효율적인가?
• RQ4 추가로 DNS 서버를 더 추가할수록 얻는 추가 이점은 어떻게 변화하는가? 그리고 어느 지점에서 경제적 기준을 초과하는가?

주요 결과

• 경제적 타당성 기준은 클라이언트와 서버 양측의 낙관적인 비용 추정치조차도 적용될 경우, 추가 트래픽 1킬로바이트당 10ms 이상의 지연 시간 절감이 이루어지는 것이다.
• 실제 시나리오—예를 들어 클라이언트가 DSL을 사용하고 서버가 외부 호스팅을 사용하는 경우—에서는 요구되는 지연 시간 절감 기준이 최소 0.25ms/KB로 낮아진다.
• 10개 이상의 서버에 부가적인 DNS 요청을 수행하면 평균 및 95프cntile 페이지 로드 시간에 각각 6–15% 향상이 이루어지며, 이는 절대적인 개선 폭로 각각 200–700ms 및 500–2300ms에 해당한다.
• 각 추가 DNS 서버가 제공하는 추가 이점은 점점 감소하며, 4중 이상 복제 시스템은 수익 감소로 인해 경제적으로 중립 수준에 머무른다.
• 2–3개의 서버로 DNS 요청을 복제하면 평균 지연 시간 측면에서 순수 이득을 얻을 수 있지만, 높은 수준의 복제는 꼬리 지연 시간 시나리오에서만 정당화될 수 있으며, 이 경우 데이터가 너무 노이즈가 많아 결론을 내리기 어려울 수 있다.
• 프레임워크는 모든 테스트 구성에서 추가 트래픽 1킬로바이트당 10ms 이상의 지연 시간 절감을 달성하는 한, 최대 10개의 서버에 대해 부가적인 DNS 요청이 비용 효율적임을 확인한다. 이는 평균 및 꼬리 지연 시간 지표 모두에서 기준을 초과하기 때문이다.