[논문 리뷰] A Combined LIFO-Priority Scheme for Overload Control of E-commerce Web Servers

Naresh Singhmar, Vipul Mathur외 2명|ArXiv.org|2006. 11. 17.

Network Traffic and Congestion Control참고 문헌 7인용 수 23

한 줄 요약

이 논문은 전자상거래 웹 서버의 오버로드 제어를 향상시키기 위해 수익 창출 전자결제 거래 요청을 브라우징 요청보다 우선 처리하는 LIFO-Priority (LIFO-Pri) 스케줄링 기법을 제안한다. 브라우징 큐에는 LIFO 원칙을 적용하고 전자결제 요청 큐에는 절대 우선순위를 부여함으로써, 이 기법은 전자결제 거래의 완료율을 7배로 높이고, 서버가 최대 용량의 60%를 유지하면서 1.5배 과부하 상황에서도 안정성을 확보한다. 이는 요청 기각 수를 크게 줄이고, 처리량과 응답 시간을 향상시킨다.

ABSTRACT

E-commerce Web-servers often face overload conditions during which revenue-generating requests may be dropped or abandoned due to an increase in the browsing requests. In this paper we present a simple, yet effective, mechanism for overload control of E-commerce Web-servers. We develop an E-commerce workload model that separates the browsing requests from revenue-generating transaction requests. During overload, we apply LIFO discipline in the browsing queues and use a dynamic priority model to service them. The transaction queues are given absolute priority over the browsing queues. This is called the LIFO-Pri scheduling discipline. Experimental results show that LIFO-Pri dramatically improves the overall Web-server throughput while also increasing the completion rate of revenue-generating requests. The Web-server was able to operate at nearly 60% of its maximum capacity even when offered load was 1.5 times its capacity. Further, when compared to a single queue FIFO system, there was a seven-fold increase in the number of completed revenue-generating requests during overload.

연구 동기 및 목표

• 고도로 증가한 브라우징 요청으로 인해 전자상거래 웹 서버가 성능 저하를 겪고 요청 기각이 발생하는 문제를 해결하기 위해.
• 수익 창출 전자결제 요청과 간접 수익을 창출하는 브라우징 요청을 구분하여, 수익 창출 요청을 우선 처리함으로써 기업 성과를 극대화하기 위해.
• 실제 워크로드 조건에서 효과적이고 단순한 오버로드 제어 메커니즘을 설계하고 실험적으로 검증하여 서버 처리량과 요청 완료율을 향상시키기 위해.
• 브라우징 큐에 LIFO 스케줄링을 적용하고 전자결제 큐에 절대 우선순위를 부여하는 조합이 오버로드 상황에서 시스템의 내성과 성능을 향상시키는지 입증하기 위해.

제안 방법

• 저자들은 실제 사용자 행동을 모방하는 세션 기반 워크로드 모델을 개발하여, 변동하는 세션 지속 시간, 요청 기각, 재시도 등을 반영하였다.
• 이중 큐 아키텍처를 구현하였으며, 브라우징 요청은 별도의 큐에서 LIFO 원칙에 따라 처리되고, 전자결제 요청은 브라우징 큐보다 절대 우선순위를 가졌다.
• 시스템 부하와 성능 지표에 기반해 브라우징 큐의 서비스 가중치를 동적으로 조정하는 동적 우선순위 모델을 사용하였다.
• CPU 활용률을 오버로드 지표로 사용하였으며, 활용률이 임계값을 초과하면 LIFO-Pri 스케줄링 정책을 활성화하였다.
• 실제 웹 서버 에뮬레이터를 사용하여 다양한 부하 조건에서 전자상거래 환경을 시뮬레이션한 실험 평가를 수행하였다.
• LIFO-Pri 기법은 단일 큐 FIFO 시스템과 절대 공정성(8Q-AF)을 적용한 8큐 가중 페어 큐잉 시스템과 비교되었다.

실험 결과

연구 질문

• RQ1 브라우징 요청에 대해 LIFO 스케줄링을 적용하고 전자결제 요청에 절대 우선순위를 부여함으로써 오버로드 상황에서 전자결제 요청의 완료율에 어떤 영향을 미치는가?
• RQ2 FIFO 및 공정 큐잉 기법과 비교해 LIFO-Pri 기법이 요청 기각률을 얼마나 줄이고 응답 시간 분포를 어떻게 향상시키는가?
• RQ3 LIFO-Pri 메커니즘이 서버의 명목 용량의 1.5배에 해당하는 부하를 받더라도 높은 서버 활용도(예: 최대 용량의 60%)를 유지할 수 있는가?
• RQ4 특히 사용자 재시도 및 기각이 발생하는 상황에서 LIFO-Pri 기법이 고부하 상황에서 생성 및 완료된 전자결제 요청 수에 어떤 영향을 미치는가?
• RQ5 긴 응답 시간으로 인한 세션 기각 수를 줄이기 위해 LIFO가 어떤 효과를 미치는가?

주요 결과

• 오버로드 상황에서 LIFO-Pri 기법은 단일 큐 FIFO 시스템 대비 수익 창출 요청의 완료 수를 7배로 증가시켰다.
• 서버가 최대 용량의 60%를 유지하면서도 부하가 명목 용량의 1.5배에 달하는 상황에서도 거의 동일한 성능을 유지하여 높은 내성성을 입증했다.
• 부하 계수 ρ=1.4일 때 LIFO-Pri는 195개의 '로그인' 요청 중 187개를 완료했으며, 타임아웃은 8개뿐이었고, 요청 손실은 전혀 없었다. 이는 다른 기법보다 뚜렷한 성능 향상을 보였다.
• 브라우징 요청 기각 수는 8Q-AF의 16,305건에서 8Q-LIFO-Pri의 4,075건으로 감소하여 사용자 유지를 향상시키고 시스템 반응성을 높였다는 데서 큰 개선이 있었다.
• 메인 페이지(Br-1)의 경우, LIFO-Pri에서는 요청의 80%가 5초 이내 응답했지만, FIFO 및 8Q-AF에서는 각각 10%에 불과하여 사용자 인지 성능 향상이 뚜렷했다.
• 모든 부하 수준에서 LIFO-Pri 기법은 완료된 전자결제 요청의 평균 응답 시간이 유의미하게 낮아, 기각률 감소와 처리량 증가에 기여했다.