[论文解读] Algorithm Design: A Fairness-Accuracy Frontier

Annie Liang, Jay Lu+2 more|arXiv (Cornell University)|Dec 18, 2021

Game Theory and Voting Systems被引用 8

一句话总结

本文提出了一条公平性-准确性前沿，用于刻画在预定义群体中算法决策下公平性与准确性之间最优权衡的特性。它识别出输入数据的群体平衡性（group-balance）是决定前沿形状的关键因素，并表明当输入为群体平衡时，排除群体身份信息严格次优；而当群体身份可用时，排除信息性输入则为次优。

ABSTRACT

Algorithm designers increasingly optimize not only for accuracy, but also for the fairness of the algorithm across pre-defined groups. We study the tradeoff between fairness and accuracy for any given set of inputs to the algorithm. We propose and characterize a fairness-accuracy frontier, which consists of the optimal points across a broad range of preferences over fairness and accuracy. Our results identify a simple property of the inputs, group-balance, which qualitatively determines the shape of the frontier. We further study an information-design problem where the designer flexibly regulates the inputs (e.g., by coarsening an input or banning its use) but the algorithm is chosen by another agent. Whether it is optimal to ban an input generally depends on the designer's preferences. But when inputs are group-balanced, then excluding group identity is strictly suboptimal for all designers, and when the designer has access to group identity, then it is strictly suboptimal to exclude any informative input.

研究动机与目标

• 形式化刻画在预定义群体中算法决策下公平性与准确性之间的权衡关系。
• 将公平性-准确性前沿定义为在公平性与准确性偏好广泛类别下所有帕累托最优结果的集合。
• 研究对输入信息的约束（如禁止或粗化输入）如何影响可实现的公平性-准确性权衡。
• 确定在何种情况下排除群体身份或其他信息性输入对设计者而言是最优或次优的。
• 通过战略性输入调控分析信息设计在塑造公平性-准确性前沿中的作用。

提出的方法

• 将公平性-准确性（FA）偏好定义为同时满足更高准确性（更低群体误差）和更高公平性（更小误差差异）的偏好。
• 将公平性-准确性前沿构建为在FA偏好下所有帕累托最优结果的集合，代表最优权衡。
• 引入群体平衡性概念，即两个群体的基础误差率相等，以对前沿的定性形状进行分类。
• 将输入调控建模为信息设计问题，其中设计者控制算法设计者可获得的信息。
• 使用输入的混淆（garbling）来建模信息约束，并分析此类约束如何影响最终的公平性-准确性前沿。
• 应用博弈论与信息论工具，分析代理的服从性以及实现期望误差分布的可行性。

实验结果

研究问题

• RQ1 公平性-准确性前沿的形状如何依赖于输入数据的统计特性？
• RQ2 在何种条件下，排除群体身份信息在实现公平性-准确性权衡时严格次优？
• RQ3 在何种情况下排除信息性输入是最优的，而在何种情况下是次优的？
• RQ4 通过信息设计实现的输入调控能否实现公平性-准确性前沿上的任意一点？
• RQ5 群体平衡性在决定输入排除或包含的最优性方面发挥何种作用？

主要发现

• 当输入为群体平衡时，公平性-准确性前沿为单一点，意味着两个群体的基础误差率相等。
• 当输入为群体平衡时，对所有设计者而言，排除群体身份信息均严格次优，因为其无法实现最优前沿。
• 当群体身份可用时，排除任何信息性输入均严格次优，因为其会阻止访问完整的公平性-准确性前沿。
• 若输入 $X'$ 对两个群体均具有决策相关性，则在 $(X, X')$ 下的公平性-准确性前沿严格劣于仅使用 $X$ 的情况，表明整体性能下降。
• 当输入存在偏斜时，输入设计下的公平性-准确性前沿与无约束前沿不相交；但当输入平衡时，可能相交。
• 在特定示例中，使用零信号 $X$ 会导致两个群体的误差统一为 0.5，但任何使用 $X'$ 的情况都会使平等主义设计者的结果严格变差，表明当未谨慎调控时，信息使用可能具有破坏性。