[论文解读] Fairness in Streaming Submodular Maximization: Algorithms and Hardness

Marwa El Halabi, Slobodan Mitrović+3 more|arXiv (Cornell University)|Oct 14, 2020

Complexity and Algorithms in Graphs参考文献 53被引用 20

一句话总结

该论文首次提出了在基数约束和公平性约束下，针对公平子模最大化问题的流式近似算法，将问题简化为拟阵约束下的子模优化。对于单调函数，该算法在 O(k) 内存下实现了 1/4-近似；对于非单调函数，实现了 q/5.82-近似，其中 q 为超额比率，且通过下界结果证明了内存边界的紧致性。

ABSTRACT

Submodular maximization has become established as the method of choice for the task of selecting representative and diverse summaries of data. However, if datapoints have sensitive attributes such as gender or age, such machine learning algorithms, left unchecked, are known to exhibit bias: under- or over-representation of particular groups. This has made the design of fair machine learning algorithms increasingly important. In this work we address the question: Is it possible to create fair summaries for massive datasets? To this end, we develop the first streaming approximation algorithms for submodular maximization under fairness constraints, for both monotone and non-monotone functions. We validate our findings empirically on exemplar-based clustering, movie recommendation, DPP-based summarization, and maximum coverage in social networks, showing that fairness constraints do not significantly impact utility.

研究动机与目标

• 为大规模数据场景下在公平性约束下缺乏流式算法的问题提供解决方案。
• 设计高效、低内存的近似算法，在性别、种族或年龄等敏感属性方面保持公平性。
• 为在公平性约束下单调与非单调子模函数的近似保证和内存边界建立紧致的理论界限。
• 通过实证验证，公平性约束不会在真实世界摘要任务中显著降低性能。

提出的方法

• 将公平子模最大化问题转化为拟阵约束下的子模最大化问题，在单调情况下保持近似比不变。
• 设计一种基于划分拟阵结构的低内存流式算法，实现 1/4-近似，内存消耗为 O(k)，每个元素处理时间为 O(log k)。
• 引入超额比率 q = 1 - max_c(ℓ_c / |V_c|) 的概念，用于量化每组中元素选择的灵活性。
• 提出一种基于随机舍入和阈值处理的 q/5.82-近似算法，适用于非单调函数，内存消耗为 O(k)。
• 证明内存下界：任何实现优于 q-近似的算法，其内存消耗至少为 Ω(n)，从而证明该边界的紧致性。
• 在真实数据集上实现并评估 Fair-Streaming-CK 和 Fair-Streaming-FKK，与 SieveStreaming 和 UpperBounds 等基线方法进行比较。

实验结果

研究问题

• RQ1 我们能否设计出高效的流式算法，实现公平子模最大化，在确保敏感属性（如性别、种族或年龄）代表性均衡的同时保持高实用性？
• RQ2 在流式子模最大化中，公平性与实用性的权衡如何？该权衡如何随超额比率 q 变化？
• RQ3 在公平性约束下，是否可能在流式环境中以次线性内存实现常数因子近似？
• RQ4 与标准流式基线相比，公平性约束对 oracle 调用次数和运行时间有何影响？

主要发现

• 所提出的 Fair-Streaming-CK 算法在仅使用 O(k) 内存和每个元素 O(log k) 时间的前提下，对单调子模函数实现了 1/4-近似。
• 对于非单调函数，该算法实现了 q/5.82-近似，其中 q 为超额比率，且该界在常数因子范围内是紧致的。
• 任何实现优于 q-近似的非单调公平流式子模最大化算法，其内存消耗至少为 Ω(n)，从而证明了该内存边界的强紧致性。
• 实证结果表明，公平解的客观值与非公平基线相比仅下降约 15%，在 Movielens、Pokec 和 Bank-Marketing 等真实数据集中显著降低了偏差。
• SieveStreaming 和 UpperBounds 等基线方法严重违反公平性约束——例如在最大覆盖任务中出现 150 次错误，在基于 DPP 的摘要任务中出现 100 次错误，凸显了显式公平性保障的必要性。
• 公平性的代价很小：实用性损失极低（低于 15%），表明在实践中公平性与高实用性可以兼容。