[논문 리뷰] An Adaptive Dynamic Replacement Approach for a Multicast based Popularity Aware Prefix Cache Memory System

P. Jayarekha, T. R. Gopalakrishnan Nair|arXiv (Cornell University)|2010. 01. 23.

Caching and Content Delivery참고 문헌 13인용 수 3

한 줄 요약

이 논문은 멀티캐스트 기반의 인기도 인식(prefix cache)을 갖춘 멀티미디어 서버에서 LRU와 LFU 히우리스틱을 융합하여 캐시 히트 비율을 최적화하는 적응형 동적 교체 알고리즘을 제안한다. 프리픽스 캐싱을 우선시하고 연령 및 빈도 요소를 고려한 이중 목록 구조를 사용함으로써, LRU에 비해 히트 비율을 향상시키고 대기 시간과 대역폭 사용량을 감소시킨다.

ABSTRACT

In this paper we have proposed an adaptive dynamic cache replacement algorithm for a multimedia servers cache system. The goal is to achieve an effective utilization of the cache memory which stores the prefix of popular videos. A replacement policy is usually evaluated using hit ratio, the frequency with which any video is requested. Usually discarding the least recently used page is the policy of choice in cache management. The adaptive dynamic replacement approach for prefix cache is a self tuning, low overhead algorithm that responds online to changing access patterns. It constantly balances between lru and lfu to improve combined result. It automatically adapts to evolving workloads. Since in our algorithm we have considered a prefix caching with multicast transmission of popular objects it utilizes the hard disk and network bandwidth efficiently and increases the number of requests being served.

연구 동기 및 목표

• 고대역폭 및 고저장 용량 요구 사항을 가진 멀티미디어 스트리밍 환경에서 기존 캐시 교체 정책(예: LRU)의 비효율성을 해결한다.
• 자주 액세스되는 비디오의 프리픽스 캐싱을 우선시하여 비디오 온디맨드(VoD) 시스템의 캐시 활용도를 향상시킨다.
• 인기 있는 비디오 프리픽스의 멀티캐스트 전송을 통해 네트워크 및 디스크 대역폭 소비를 줄인다.
• 변화하는 액세스 패턴에 적응하기 위해 최근성(LRU)과 빈도(LFU)를 동적으로 균형 잡는 자가 조정형 교체 정책을 개발한다.
• 지능적인 비victim 선택을 통해 캐시 오염을 최소화하고 요청 대기 시간을 감소시켜 시스템 확장성을 향상시킨다.

제안 방법

• 두 개의 리스트로 구성된 캐시 아키텍처를 사용: L1은 최근성(기반 LRU)을 위한 것이고, L2는 빈도(기반 LFU)를 위한 것이다. 별도의 교체 목록 B1과 B2를 사용한다.
• L2에서 비victim 페이지를 결정하기 위해 하이브리드 점수-값 공식을 적용한다: Scorevalue = (1 / (timestamp + 1)) × (1 / (frequency + 1)), 이는 오래된 및 덜 자주 액세스된 페이지를 우선시한다.
• 오프라인 프리픽스(예: 마감 기한 경과 후)에 팽창 인자(inflation factor)를 적용하여 연령 요소를 증가시키고 조기에 교체되도록 유도한다.
• 프리픽스 블록보다 서픽스 블록을 우선적으로 교체함으로써 초기 비디오 세그먼트를 캐시에 유지함으로써 초기 요청에 대한 히트 비율을 향상시킨다.
• 액세스 시 리스트를 동적으로 재조정한다: 자주 액세스된 페이지는 L2의 MRU 끝으로 이동하고, 최근에 교체된 페이지는 B1/B2에서 추적한다.
• 다수의 클라이언트를 한 번의 스트림으로 서비스하는 멀티캐스트 전송을 통합함으로써 네트워크 부하를 감소시키고 확장성을 향상시킨다.

실험 결과

연구 질문

• RQ1 폭발적인 액세스 패턴을 가진 멀티미디어 스트리밍 환경에서 최근성과 빈도를 효과적으로 균형 잡는 캐시 교체 정책은 어떻게 설계할 수 있는가?
• RQ2 멀티캐스트 전송과 함께 프리픽스 캐싱을 적용할 경우 VoD 시스템에서 대역폭 효율성과 요청 처리 용량은 어느 정도 향상되는가?
• RQ3 다이나믹 워크로드 하에서 하이브리드 LRU-LFU 접근 방식이 기존 LRU에 비해 히트 비율과 대기 시간 측면에서 뛰어나게 되는가?
• RQ4 오프라인 프리픽스에 대해 연령 요소와 팽창 메커니즘을 도입할 경우 캐시 오염과 교체 효율성은 어떻게 영향을 받는가?
• RQ5 프리픽스 블록을 서픽스 블록보다 우선시할 경우 전체 캐시 성능과 시스템 확장성에 어떤 영향을 미치는가?

주요 결과

• 제안된 적응형 동적 교체 알고리즘은 그림 3에서 보듯이 인기 있는 비디오 프리픽스를 더 잘 처리함으로써 LRU보다 높은 히트 비율을 달성한다.
• 그림 6에서 보듯이 자주 액세스되는 초기 비디오 세그먼트의 효율적 캐싱 덕분에 프리픽스 요청의 대기 시간이 크게 감소한다.
• 그림 5에서 보듯이 멀티캐스트 전송과 중복 데이터 전송 감소 덕분에 대역폭 활용도가 향상된다.
• 그림 4에서 보듯이 LRU에 비해 캐시 교체 수가 감소하여 안정성 향상과 오버헤드 감소를 나타낸다.
• 팽창 인자와 점수-값 메커니즘을 통해 오랫동안 사용되지 않고 빈도가 낮은 프리픽스를 우선적으로 교체함으로써 캐시 오염을 효과적으로 완화한다.
• 최근성과 빈도를 별도로 추적하는 이중 목록 구조(L1/L2)는 상당한 계산 비용 없이도 변화하는 액세스 패턴에 실시간으로 적응할 수 있도록 한다.