[论文解读] Balanced offline allocation of weighted balls into bins

Ömer Burak Demirel, Ivo F. Sbalzarini|arXiv (Cornell University)|Apr 10, 2013

Advanced Queuing Theory Analysis参考文献 7被引用 3

一句话总结

本文提出 SortedGreedy[m]，一种基于排序的贪心算法，用于离线加权球入桶问题，即在将球分配到最轻的可用桶之前，先按权重对球进行排序。该算法实现的差距（负载不平衡）比标准 Greedy[m] 算法小一个数量级以上，且性能开销可忽略不计，因此在已知任务权重的分布式系统中具有高度有效性和实用性。

ABSTRACT

We propose a sorting-based greedy algorithm called SortedGreedy[m] for approximately solving the offline version of the d-choice weighted balls-into-bins problem where the number of choices for each ball is equal to the number of bins. We assume the ball weights to be non-negative. We compare the performance of the sorting-based algorithm with a naive algorithm called Greedy[m]. We show that by sorting the input data according to the weights we are able to achieve an order of magnitude smaller gap (the weight difference between the heaviest and the lightest bin) for small problems (<= 4000 balls), and at least two orders of magnitude smaller gap for larger problems. In practice, SortedGreedy[m] runs almost as fast as Greedy[m]. This makes sorting-based algorithms favorable for solving offline weighted balls-into-bins problems.

研究动机与目标

• 解决离线加权球入桶问题，即在任务权重已知的前提下，最小化处理器或桶之间的负载不平衡。
• 通过引入优先处理较重球的排序阶段，改进标准 Greedy[m] 算法。
• 证明按权重排序可显著减少差距（最重桶与最轻桶之间的差异），且不会带来显著的计算开销。
• 评估 SortedGreedy[m] 在不同问题规模和桶数量下的性能表现，特别是在大规模场景下的表现。
• 确立基于排序的算法在实际负载均衡应用中的可行性。

提出的方法

• 该算法在分配前将所有加权球按权重降序排列。
• 采用贪心分配策略：每个球被放入当前最轻的 m 个桶之一。
• 该方法正式定义为 SortedGreedy[m]，由于排序步骤，时间复杂度为 O(n log n)，随后为 O(n) 的分配步骤。
• 将该方法与基线算法 Greedy[m] 进行对比，后者不进行预排序，按输入顺序分配球。
• 模拟使用 [0,10] 区间内均匀分布的随机权重，重复 1000 次以计算差距的均值和标准差。
• 在包含 2^13 个球的实例上测量运行时间，以评估性能开销，结果显示 SortedGreedy[m] 与 Greedy[m] 的差异极小。

实验结果

研究问题

• RQ1 在贪心分配前对球按权重排序，是否能显著降低离线加权球入桶问题中的负载不平衡（差距）？
• RQ2 与 Greedy[m] 相比，SortedGreedy[m] 在球数和桶数增加时的性能扩展性如何？
• RQ3 排序的计算开销是多少？即使在大规模问题中，该开销是否仍可忽略？
• RQ4 如模拟结果所示，SortedGreedy[m] 的差距是否随问题规模增加呈指数下降？
• RQ5 在高度负载场景（n ≫ m）下，SortedGreedy[m] 是否能实现常数或次常数差距？其表现与现有理论边界相比如何？

主要发现

• 当 n ≤ 4000 时，SortedGreedy[2] 的差距比 Greedy[2] 小 10 至 60 倍，且当 m=2 且 n ≥ 32 时，该比例上升至 60。
• 当 m=8 个桶且 n ≥ 512 时，SortedGreedy[2] 与 Greedy[2] 的差距比达到约 73，表明性能提升 73 倍。
• 当 n ≥ 4096 时，SortedGreedy[m] 的差距优势超过两个数量级，表明其随问题规模呈指数级改进。
• SortedGreedy[2] 的差距标准差为 0.01（m=2）和 0.03（m=8），显著低于 Greedy[2] 的 σ = 0.23 和 0.15。
• SortedGreedy[2] 在 2^13 个球时的运行时间为 0.1950 秒，而 Greedy[2] 为 0.1948 秒，表明仅增加 2 毫秒开销（占总时间的 0.02%）。
• SortedGreedy[m] 的差距随 n 增加呈指数下降，而 Greedy[m] 的差距在 n 变化时几乎保持不变，凸显了该算法的可扩展性。