[논문 리뷰] Sharing LRU Cache Resources among Content Providers: A Utility-Based Approach

Mostafa Dehghan, Weibo Chu외 2명|arXiv (Cornell University)|2017. 02. 06.

Caching and Content Delivery참고 문헌 19인용 수 6

한 줄 요약

이 논문은 여러 콘텐츠 공급자 간에 LRU 캐시를 공유하기 위한 유틸리티 기반 캐시 파티셔닝 프레임워크를 제안한다. 이는 총 유틸리티를 최대화하기 위해 동적으로 캐시 슬라이스를 할당한다. 이는 콘텐츠가 상호 배타적인 경우 파티셔닝이 공유보다 우월하다는 것을 증명하며, 겹치는 콘텐츠에 대해서도 별도의 파티션을 활용할 경우 유리할 수 있다. 온라인 알고리즘을 통해 최적의 해에 수렴함을 보장한다.

ABSTRACT

In this paper, we consider the problem of allocating cache resources among multiple content providers. The cache can be partitioned into slices and each partition can be dedicated to a particular content provider, or shared among a number of them. It is assumed that each partition employs the LRU policy for managing content. We propose utility-driven partitioning, where we associate with each content provider a utility that is a function of the hit rate observed by the content provider. We consider two scenarios: i)~content providers serve disjoint sets of files, ii)~there is some overlap in the content served by multiple content providers. In the first case, we prove that cache partitioning outperforms cache sharing as cache size and numbers of contents served by providers go to infinity. In the second case, It can be beneficial to have separate partitions for overlapped content. In the case of two providers, it is usually always beneficial to allocate a cache partition to serve all overlapped content and separate partitions to serve the non-overlapped contents of both providers. We establish conditions when this is true asymptotically but also present an example where it is not true asymptotically. We develop online algorithms that dynamically adjust partition sizes in order to maximize the overall utility and prove that they converge to optimal solutions, and through numerical evaluations, we show they are effective.

연구 동기 및 목표

• 다양한 콘텐츠 공급자 간에 공유되는 LRU 캐시 자원을 효율적으로 할당하여 유틸리티를 극대화하는 데 도전 과제를 해결한다.
• 콘텐츠 겹침과 인기 분포의 변화에 따라 캐시 파티셔닝과 공유 중 어느 것이 더 우수한 성능을 보이는지 조사한다.
• 총 유틸리티를 극대화하기 위해 동적으로 캐시 파티션 크기를 조정하는 온라인, 분산형 알고리즘을 개발한다.
• 특히 겹치는 콘텐츠에 대해 파티셔닝이 최적임을 보장하는 이론적 조건을 수립한다.
• 리아푸노프 안정성 이론을 사용하여 동적 캐시 할당 알고리즘의 수렴 보장을 제공한다.

제안 방법

• 각 콘텐츠 공급자의 유틸리티가 관측된 히트율에 의존하는 유틸리티 기반 캐시 할당 모델을 수립한다.
• LRU 교체 정책을 사용하여 캐시 동작을 모델링하고, 다양한 파티셔닝 전략에 대해 점근적 히트율 표현식을 유도한다.
• Fagin의 LRU 점근적 분석을 사용하여 지프-유사 분포를 포함한 다양한 콘텐츠 인기 분포 하에서 히트율을 특성화한다.
• 실시간 히트율 피드백과 유틸리티 기울기를 기반으로 파티션 크기를 조정하는 온라인 제어 알고리즘을 제안한다.
• 리아푸노프 안정성 이론을 적용하여 동적 할당 알고리즘이 최적의 캐시 파티셔닝 솔루션으로 수렴함을 증명한다.
• 세 가지 전략을 비교한다: 공유 캐시, 모든 콘텐츠에 대해 별도의 파티션, 하이브리드 파티셔닝(비겹치는 콘텐츠는 별도, 겹치는 콘텐츠는 공유).

실험 결과

연구 질문

• RQ1 콘텐츠 공급자가 상호 배타적인 콘텐츠 세트를 제공할 때, 캐시 파티셔닝이 캐시 공유를 언제 초월하는가?
• RQ2 기타 콘텐츠가 별도의 파티션에서 제공되더라도, 겹치는 콘텐츠에 전용 캐시 파티션을 할당하는 것이 유리한가?
• RQ3 콘텐츠 인기 분포가 지프-유사 분포를 따를 때, 다양한 파티셔닝 전략의 점근적 성능는 어떻게 비교되는가?
• RQ4 동적이고 분산된 알고리즘이 실시간으로 최적의 캐시 파티셔닝 구성으로 수렴할 수 있는가?
• RQ5 어떤 시나리오에서는 공유 캐싱이 여전히 파티셔닝을 초월할 수 있는가, 심지어 점근적으로도 말이다?

주요 결과

• 콘텐츠 공급자가 상호 배타적인 콘텐츠 세트를 제공할 때, 캐시 크기와 콘텐츠 항목 수가 모두 커지면 파티셔닝이 점근적으로 공유를 초월한다.
• 두 콘텐츠 공급자가 겹치는 콘텐츠를 공유할 경우, 일반적으로 공유 콘텐츠에 하나의 파티션을 할당하고 비겹치는 콘텐츠에는 별도의 파티션을 할당하는 것이 최적이다.
• 논문은 공유 캐싱이 여전히 점근적으로 최적임을 보여주는 반례를 제시하며, 파티셔닝이 모든 겹침 시나리오에서 항상 우월하지 않음을 보여준다.
• 제안된 온라인 알고리즘은 파티션 크기를 동적으로 조정하며, 리아푸노프 안정성 분석을 통해 최적의 해로 수렴함을 증명한다.
• 최적의 파티션 크기를 사용할 경우, 하이브리드 파티셔닝 전략(비겹치는 콘텐츠는 별도, 겹치는 콘텐츠는 공유)에서는 전체 미스 확률이 완전한 공유 전략보다 엄격히 낮다.
• 확률적 라우팅과 함께 파티셔닝을 사용하는 것은, 히트율 함수의 볼록성에 기반한 추론을 통해 최적성이 아님을 보여준다.