[论文解读] Bandwidth-Aware Scheduling with SDN in Hadoop: A New Trend for Big Data

Peng Qin, Bin Dai+2 more|arXiv (Cornell University)|Mar 12, 2014

Cloud Computing and Resource Management参考文献 8被引用 12

一句话总结

本文提出BASS，一种带宽感知的任务调度器，通过将软件定义网络（SDN）与Hadoop集成，以优化作业完成时间。通过利用SDN的集中式控制实现动态带宽分配，并基于数据本地性和可用网络容量进行智能任务分配，BASS相较于最先进的调度器（如BAR和HDS）将作业完成时间减少了高达18%，展示了可扩展大数据处理的新趋势。

ABSTRACT

Software Defined Networking (SDN) is a revolutionary network architecture that separates out network control functions from the underlying equipment and is an increasingly trend to help enterprises build more manageable data centers where big data processing emerges as an important part of applications. To concurrently process large-scale data, MapReduce with an open source implementation named Hadoop is proposed. In practical Hadoop systems one kind of issue that vitally impacts the overall performance is know as the NP-complete minimum make span problem. One main solution is to assign tasks on data local nodes to avoid link occupation since network bandwidth is a scarce resource. Many methodologies for enhancing data locality are proposed such as the HDS and state-of-the-art scheduler BAR. However, all of them either ignore allocating tasks in a global view or disregard available bandwidth as the basis for scheduling. In this paper we propose a heuristic bandwidth-aware task scheduler BASS to combine Hadoop with SDN. It is not only able to guarantee data locality in a global view but also can efficiently assign tasks in an optimized way. Both examples and experiments demonstrate that BASS has the best performance in terms of job completion time. To our knowledge, BASS is the first to exploit talent of SDN for big data processing and we believe it points out a new trend for large-scale data processing.

研究动机与目标

• 为解决Hadoop集群中NP完全的最小完成时间问题，该问题受网络带宽和资源争用的限制。
• 克服现有调度器（如HDS和BAR）的局限性，这些调度器仅优先考虑数据本地性，而未考虑全局带宽可用性或动态网络状况。
• 设计一种带宽感知的调度框架，利用SDN的集中式控制和可编程性，以提升大数据工作负载中的性能。
• 在不同工作负载和网络条件下，评估所提出调度器在真实Hadoop环境中的有效性。

提出的方法

• 提出时间槽（TS）方案用于带宽分配，将网络时间划分为时间间隔，以管理链路利用率并确保可预测的调度。
• 提出BASS（基于SDN的带宽感知Hadoop调度），一种启发式调度器，基于估计完成时间评估任务分配，同时考虑本地和远程执行。
• 采用ProgressRate方案估算任务进度和剩余时间，实现基于实时节点空闲时间和网络可用性的动态调度决策。
• 集成SDN控制器以监控和控制网络带宽，使用OpenFlow强制执行带宽预留，并在任务调度期间优化数据传输。
• 采用混合决策逻辑：若本地执行可行且快速，则本地分配；否则仅在带宽充足且整体完成时间得以改善时，才将任务卸载至远程节点。
• 使用包含6个节点、2个Open vSwitch和100Mbps链路的真实Hadoop集群对调度器进行验证，测试工作负载包括Wordcount和Sort。

实验结果

研究问题

• RQ1 SDN的集中式带宽控制能否被有效利用以改善Hadoop集群中的作业完成时间？
• RQ2 将网络带宽感知集成到任务调度中，与传统仅关注本地性的调度器相比，对数据本地性和整体性能有何影响？
• RQ3 在不同工作负载下，带宽感知调度器是否在作业完成时间方面优于最先进的调度器（如BAR和HDS）？
• RQ4 大规模数据处理中，数据本地性与网络带宽利用率之间的权衡是什么？如何实现优化？

主要发现

• BASS在所有测试工作负载中均实现了最低的作业完成时间，与BAR相比整体完成时间缩短高达18%，与HDS相比缩短19%。
• 对于600MB的Wordcount作业，BASS耗时231秒完成，优于BAR（259秒）和HDS（269秒），尽管其数据本地性比率较低（58.3% vs. 66.7%和83.3%）。
• 在5GB的Sort作业中，BASS的完成时间为1572秒，而BAR为1632秒，HDS为1859秒，表现出持续的优越性。
• 结果表明，带宽可用性在性能影响上可能超过数据本地性——当本地节点受CPU限制时，具备充足带宽的远程执行反而能实现更快完成。
• BASS在多种工作负载下均保持高性能，包括计算密集型（Wordcount）和I/O密集型（Sort）作业，证明了其适应性。
• 本研究证实，通过SDN实现实时带宽监控与控制，可开启大数据调度的新范式，而BASS是首个在Hadoop中全面利用此能力的调度器。