[论文解读] P4COM: In-Network Computation with Programmable Switches

Ge Chen, Gaoxiong Zeng+1 more|arXiv (Cornell University)|Jul 29, 2021

Software-Defined Networks and 5G参考文献 53被引用 8

一句话总结

P4COM 是一种用户友好、内存高效且具备容错能力的框架，通过将 MapReduce 风格的数据洗牌操作卸载到可编程交换机，实现了网络内计算（INC）。它使用 P4 解释器实现高层逻辑转换，采用内存管理策略以优化有限的片上内存，并通过剪裁有效载荷机制实现容错，实现了 2–5 倍的洗牌吞吐量提升，并在 10Gbps 链路上实现接近线路速率的性能。

ABSTRACT

Traditionally, switches only provide forwarding services and have no credits on computation in distributed computing frameworks. The emerging programmable switches make in-network computing (INC) possible, i.e., offloading some computation to the switch data plane. While some proposals have attempted to offload computation onto special hardwares (e.g., NetFPGA), many practical issues have not been addressed. Therefore, we propose P4COM - a user-friendly, memory-efficient, and fault-tolerant framework realizing in-network computation (e.g., MapReduce) with programmable switches. P4COM consists of three modules. First, P4COM automatically translates application logic to switch data plane programs with a lightweight interpreter. Second, P4COM adopts a memory management policy to efficiently utilize the limited switch on-chip memory. Third, P4COM provides a cutting-payload mechanism to handle packet losses. We have built a P4COM prototype with a Barefoot Tofino switch and multiple commodity servers. Through a combination of testbed experiments and large-scale simulations, we show that P4COM is able to achieve line-rate processing at 10Gbps links, and can increase the data shuffling throughput by 2-5 times for the MapReduce-style applications.

研究动机与目标

• 为解决分布式计算框架（如 MapReduce）中的网络通信瓶颈问题，其中数据聚合占数据中心总流量的高达 46%。
• 在片上内存有限且存在丢包风险的情况下，实现可靠计算卸载到交换机。
• 为应用开发人员提供一种开发者友好的接口，使其能够表达计算逻辑，而无需掌握底层 P4 编程。
• 设计一种内存管理策略，以在防止溢出的同时最大化交换机内存的利用率。
• 通过稳健的包恢复机制确保容错，避免重复处理并保持计算正确性。

提出的方法

• P4COM 采用轻量级解释器，可自动将高层 MapReduce 逻辑转换为高效的 P4 数据平面程序。
• 它实现了内存管理策略，动态分配和回收用于流表和数据包缓冲区的内存，在资源受限条件下优化内存使用。
• 采用剪裁有效载荷传输协议，检测并恢复因丢包导致的错误，确保计算结果正确，且无需重传。
• 该框架与 TCP-Cubic 集成以保证传输可靠性，并在工作节点上使用一个中间层接口，与嵌入 P4COM 的交换机通信。
• 在 Barefoot Tofino 交换机和通用服务器上实现了原型系统，通过测试平台实验和大规模仿真进行了验证。
• 该系统支持 MapReduce 工作负载中典型的多对一映射器-归约器通信模式。

实验结果

研究问题

• RQ1 可编程交换机能否被有效用于卸载计算任务，以减少分布式框架中网络洗牌流量？
• RQ2 如何抽象应用逻辑并将其编译为 P4 程序，而无需开发者具备底层网络编程知识？
• RQ3 何种内存管理策略可在防止溢出的同时最大化有限片上交换机内存的利用率？
• RQ4 如何处理网络内计算过程中的丢包问题，以确保结果正确性并避免重复处理？
• RQ5 所提出的框架能否实现线路速率性能，并在真实数据中心工作负载中显著提升吞吐量？

主要发现

• P4COM 在所有测试用例中均实现了接近线路速率的良好吞吐量，当每个服务器仅使用一个映射器时，实测吞吐量达到 9.13 Gbps。
• 在 WikiReduce 基准测试中，与传统 MapReduce 相比，洗牌吞吐量提升了 2–5 倍，分别在每个服务器 2 个和 4 个映射器时观测到 4.26 Gbps 和 2.31 Gbps 的吞吐量。
• 该框架在不同映射器-归约器比例（3:1、6:1、12:1）下均保持一致性能，证明了其在多对一通信模式下的可扩展性。
• 内存管理策略在持续工作负载下有效防止了交换机内存溢出，同时保持了高内存利用率。
• 剪裁有效载荷机制成功实现了丢包恢复，且未引入重复计算，确保了结果正确性。
• 仿真和测试平台评估结果表明，P4COM 有效缓解了网络瓶颈，并在 10Gbps 环境中表现出高效可扩展性。