[论文解读] Towards Fairness-Aware Multi-Objective Optimization

Guo Yu, Lianbo Ma+3 more|arXiv (Cornell University)|Jul 22, 2022

Health Systems, Economic Evaluations, Quality of Life被引用 4

一句话总结

本文通过将用户偏好整合到多目标优化中，提出了一种公平性感知的多目标优化（FMO）方法，以在机器学习中平衡公平性与效用。该研究提出了一种框架，将公平性作为与性能指标并列的约束性目标进行建模，并通过案例研究证明，公平性可以在不显著牺牲主要目标（如利润或准确率）的情况下实现。

ABSTRACT

Recent years have seen the rapid development of fairness-aware machine learning in mitigating unfairness or discrimination in decision-making in a wide range of applications. However, much less attention has been paid to the fairness-aware multi-objective optimization, which is indeed commonly seen in real life, such as fair resource allocation problems and data driven multi-objective optimization problems. This paper aims to illuminate and broaden our understanding of multi-objective optimization from the perspective of fairness. To this end, we start with a discussion of user preferences in multi-objective optimization and then explore its relationship to fairness in machine learning and multi-objective optimization. Following the above discussions, representative cases of fairness-aware multiobjective optimization are presented, further elaborating the importance of fairness in traditional multi-objective optimization, data-driven optimization and federated optimization. Finally, challenges and opportunities in fairness-aware multi-objective optimization are addressed. We hope that this article makes a small step forward towards understanding fairness in the context of optimization and promote research interest in fairness-aware multi-objective optimization.

研究动机与目标

• 为解决多目标设置下公平性感知优化的空白，特别是在资源分配和数据驱动优化等现实应用场景中的问题。
• 通过识别用户中心决策中的共同原则，弥合公平性感知机器学习（FML）与偏好驱动多目标优化（PMO）之间的鸿沟。
• 证明公平性可以被整合到多目标优化中，而不会严重损害主要目标（如利润或准确率）。
• 突出在传统、数据驱动以及联邦优化设置中，公平性感知多目标优化所面临的挑战与机遇。
• 倡导采用人机协同方法，通过纳入利益相关者的偏好，引导在帕累托前沿上寻找公平且高效的解决方案。

提出的方法

• 将公平性形式化为多目标优化问题，将公平性度量与效用（如准确率、利润）视为相互竞争的目标。
• 采用基于偏好的多目标优化（PMO）技术，利用参考向量或权重向量来表示决策者在公平性与效用之间的相对优先级。
• 提出一种框架，将FML中的公平性概念（如个体公平与群体公平）映射为优化目标，从而支持权衡分析。
• 采用进化算法与基于标量化的方法，以在帕累托前沿上导航并识别符合用户偏好的解。
• 将该框架应用于现实场景，如动态电动汽车充电定价，以在价格分配公平性与利润最大化之间实现平衡。
• 通过案例研究验证，公平性提升并不必然导致主要目标性能下降，从而支持联合优化的可行性。

实验结果

研究问题

• RQ1 如何将公平性感知机器学习中的公平性概念正式整合到多目标优化框架中？
• RQ2 在多目标优化中，公平性在多大程度上可以实现而不显著损害主要目标（如准确率或利润）？
• RQ3 用户偏好在引导多目标优化中寻找公平且高效解的过程中起到何种作用？
• RQ4 在多目标优化设置中，冲突的公平性度量（如个体公平与群体公平）如何相互作用？
• RQ5 在扩展公平性感知优化至数据驱动与联邦优化场景时，其关键挑战与机遇是什么？

主要发现

• 公平性感知多目标优化是可行且有效的，如在电动汽车充电动态定价中的案例所示，公平性得到提升而预期利润未受影响。
• 通过权重向量整合用户偏好，可实现对帕累托前沿上公平性与效用之间最优权衡的定向搜索。
• 案例研究显示，公平性约束可被纳入优化过程而不会显著降低主要性能指标，支持FMO的实际可行性。
• 公平性感知机器学习与偏好驱动多目标优化之间存在强烈的概念与方法论重叠，暗示共享的设计原则。
• 本文指出，公平性感知多目标优化在联邦与数据驱动设置中仍研究不足，凸显了重要的研究空白。
• 该框架支持迭代的、利益相关者参与的优化过程，能够根据现实反馈与偏好动态调整公平性-效用权衡。