[논문 리뷰] PA-Cache: Learning-based Popularity-Aware Content Caching in Edge Networks.

Qilin Fan, Jian Li외 4명|arXiv (Cornell University)|2020. 02. 20.

Caching and Content Delivery참고 문헌 7인용 수 6

한 줄 요약

PA-Cache는 변형되는 딥러닝을 활용해 시간에 따라 변화하는 콘텐츠 인기도를 적응적으로 학습하는 학습 기반 캐싱 정책으로, 폭발적인 요청 패턴에서도 높은 히트율을 달성한다. 지속적인 특성 가중치 조정을 통해 진화하는 신경망 학습 과정을 통해 기존 최고 수준의 방법들보다 낮은 계산 비용으로도 성능을 뛰어올린다.

ABSTRACT

With the aggressive growth of smart environments, a large amount of data are generated by edge devices. As a result, content delivery has been quickly pushed to network edges. Compared with classical content delivery networks, edge caches with smaller size usually suffer from more bursty requests, which makes conventional caching algorithms perform poorly in edge networks. This paper aims to propose an effective caching decision policy called PA-Cache that uses evolving deep learning to adaptively learn time-varying content popularity to decide which content to evict when the cache is full. Unlike prior learning-based approaches that either use a small set of features for decision making or require the entire training dataset to be available for learning a fine-tuned but might outdated prediction model, PA-Cache weights a large set of critical features to train the neural network in an evolving manner so as to meet the edge requests with fluctuations and bursts. We demonstrate the effectiveness of PA-Cache through extensive experiments with real-world data traces from a large commercial video-on-demand service provider. The evaluation shows that PA-Cache improves the hit rate in comparison with state-of-the-art methods at a lower computational cost.

연구 동기 및 목표

• 제한된 캐시 용량으로 인해 전통적인 캐싱 알고리즘이 성능을 내지 못하는 엣지 네트워크에서 폭발적이고 변동성이 큰 콘텐츠 요청에 대응하는 도전 과제를 해결한다.
• 이전의 학습 기반 접근 방식이 정적 특성 집합에 의존하거나 오래된 모델을 다시 훈련해야 하는 제약를 극복한다.
• 크게 확장된 핵심 특성 집합을 사용해 변화하는 인기 패턴에 지속적으로 적응할 수 있는 동적이고 진화하는 학습 메커니즘을 개발한다.
• 기존 방법들에 비해 계산 오버헤드를 줄이며 엣지 캐싱에서 더 높은 콘텐츠 히트율을 달성한다.

제안 방법

• 시간 패턴, 요청 빈도, 최신성 등의 크고 중요한 특성 집합을 가중치 조정하여 콘텐츠 인기도를 모델링하기 위해 딥 뉴럴 네트워크를 활용한다.
• 새로운 요청 데이터가 도착함에 따라 모델을 점진적으로 업데이트하는 진화 학습 전략을 구현하여 전체 재학습을 방지한다.
• 실시간으로 모델을 적응시켜 기존 역사적 데이터 세트를 모두 필요로 하지 않으면서도 변화하는 인기 추세에 항상 최신 상태를 유지한다.
• 앞으로의 요청 폭발을 가장 잘 예측할 수 있는 특성을 우선순위에 두어, 동적 워크로드 상황에서 예측 정확도를 향상시킨다.
• 예측된 인기도에 기반해 캐시가 가득 찬 경우 어떤 콘텐츠를 교체할지 결정하는 캐싱 결정 정책에 모델을 통합한다.
• 배치 재학습이 아닌 점진적 업데이트에 집중함으로써 계산 비용을 최소화하여 자원이 제한된 엣지 환경에 적합하게 한다.

실험 결과

연구 질문

• RQ1 제한된 캐시 용량이 있는 엣지 네트워크에서 폭발적이고 시간에 따라 변화하는 콘텐츠 인기도에 효과적으로 대응할 수 있는 캐싱 정책는 무엇인가?
• RQ2 진화하는 딥러닝은 정적 또는 주기적으로 재학습하는 모델에 비해 동적 엣지 환경에서 캐싱 히트율을 향상시킬 수 있는가?
• RQ3 큰 크기의 진화하는 특성 집합을 사용할 경우 엣지 캐싱에서 예측 정확도와 계산 효율성에 어떤 영향을 미치는가?
• RQ4 PA-Cache는 히트율과 계산 비용 측면에서 최신 학습 기반 및 비학습 기반 캐싱 방법들과 비교해 어떻게 성능을 내는가?

주요 결과

• 실세계의 동영상 온디맨드 데이터 트레이스를 대상으로 평가한 결과, PA-Cache는 최신 기술 수준의 캐싱 방법들보다 더 높은 콘텐츠 히트율을 달성한다.
• 진화하는 딥러닝 접근 방식 덕분에 PA-Cache는 급격히 변화하는 인기 패턴 상황에서도 높은 예측 정확도를 유지할 수 있다.
• 점진적 학습과 효율적인 특성 가중치 조정 덕분에 전체 재학습이 필요한 모델들에 비해 PA-Cache는 계산 비용을 줄일 수 있다.
• 크고 동적으로 가중치 조정되는 특성 집합을 사용함으로써, 작은 특성 집합만 사용하는 방법들에 비해 폭발적인 요청을 예측하는 데 모델의 능력이 크게 향상된다.
• PA-Cache는 다양한 요청 패턴에서 뛰어난 성능을 보이며, 전통적 및 학습 기반 기준선을 모두 히트율 지표에서 능가한다.
• 모델의 점진적 학습 메커니즘이 최소 지연으로 최신 상태를 유지할 수 있어 실시간 엣지 배포에 적합하다.