[论文解读] Joint Cache Resource Allocation and Request Routing for In-network Caching Services

Weibo Chu, Mostafa Dehghan+3 more|arXiv (Cornell University)|Oct 31, 2017

Caching and Content Delivery参考文献 24被引用 3

一句话总结

本文提出了一种联合缓存分区与内容透明请求路由框架，用于多内容提供商（Multi-CP）多缓存网络，以最大化整体网络效用。通过利用双凸优化与去中心化在线算法，该方法在支持公平性与动态流量适应性的同时，实现了高命中率与高效的资源分配。

ABSTRACT

In-network caching is recognized as an effective solution to offload content servers and the network. A cache service provider (SP) always has incentives to better utilize its cache resources by taking into account diverse roles that content providers (CPs) play, e.g., their business models, traffic characteristics, preferences. In this paper, we study the cache resource allocation problem in a Multi-Cache Multi-CP environment. We propose a cache partitioning approach, where each cache can be partitioned into slices with each slice dedicated to a content provider. We propose a content-oblivious request routing algorithm, to be used by individual caches, that optimizes the routing strategy for each CP. We associate with each content provider a utility that is a function of its content delivery performance, and formulate an optimization problem with the objective to maximize the sum of utilities over all content providers. We establish the biconvexity of the problem, and develop decentralized (online) algorithms based on convexity of the subproblem. The proposed model is further extended to bandwidth-constrained and minimum-delay scenarios, for which we prove fundamental properties, and develop efficient algorithms. Finally, we present numerical results to show the efficacy of our mechanism and the convergence of our algorithms.

研究动机与目标

• 解决多内容提供商（Multi-CP）多缓存网络中缓存资源高效分配的挑战，其中各提供商具有异构的流量、商业模式与服务质量（QoS）要求。
• 构建一个联合优化问题，通过同时考虑缓存分区与请求路由决策，最大化所有内容提供商效用的加权和。
• 设计一种可扩展、去中心化且自适应的在线算法，能够根据动态流量模式实时调整缓存分配与路由策略。
• 将该框架扩展至带宽受限与最小延迟场景，证明其在多样化网络约束下的通用性与鲁棒性。
• 引入统一的基于效用的框架，通过选择合适的效用函数，系统性地支持多种公平性准则（例如：比例公平、最大最小公平）。

提出的方法

• 提出一种缓存分区机制，将每个缓存按内容提供商划分为专用分片，减少竞争并支持各内容提供商的性能调优。
• 设计一种内容透明的请求路由算法，根据性能指标将请求路由至缓存，确保命中概率仅取决于分配的缓存大小。
• 将优化问题建模为双凸规划问题，通过交替凸优化技术实现高效求解。
• 开发去中心化（在线）算法，基于实时流量统计更新缓存分区与路由策略，并在检测到显著变化时触发周期性重新配置。
• 引入两层自适应算法：上层监控连接性与延迟；下层在固定路由下对每个内容提供商动态调整缓存分配，以适应流量变化。
• 利用效用函数（例如：β-公平、对数函数）将公平性目标嵌入优化过程，使比例公平或最大最小公平成为特例。

实验结果

研究问题

• RQ1 在多内容提供商多缓存环境中，如何联合分配与路由缓存资源，以最大化整体网络效用？
• RQ2 联合缓存分配与路由问题的结构特性是什么？该特性如何被算法有效利用？
• RQ3 所提出的框架如何扩展以处理现实部署中的带宽约束与最小延迟需求？
• RQ4 如何系统性地将公平性纳入缓存资源分配过程？
• RQ5 在动态实时流量变化下，系统如何维持高性能与收敛性？

主要发现

• 联合缓存分配与请求路由问题具有双凸性，可通过交替凸优化技术高效求解，并具备已证明的收敛性。
• 内容透明的路由方案确保每个内容的命中概率仅取决于其分配的缓存大小，从而简化系统设计与分析。
• 每个内容提供商的命中率与其分配缓存所接收的总流量成线性比例关系，支持可预测的性能扩展。
• 所提出的去中心化在线算法能有效收敛并适应网络条件变化，其性能通过数值结果得到验证。
• 通过选择适当的效用函数，该框架可支持多种公平性模型（如比例公平、最大最小公平），体现出其通用性与实际适用性。
• 对带宽受限与延迟优化场景的扩展保留了关键结构特性，支持高效算法设计，证实了该模型的鲁棒性与可扩展性。