[论文解读] Deontological Ethics By Monotonicity Shape Constraints

Serena Wang, Maya R. Gupta|arXiv (Cornell University)|Jan 31, 2020

Ethics and Social Impacts of AI参考文献 55被引用 6

一句话总结

本文提出在机器学习模型中使用单调性形状约束，以强制执行义务论伦理原则——例如，不因更高收入或更高教育水平等良好属性而施加惩罚——从而防止模型产生不公平行为。该方法在不损失模型性能的前提下，同时提升了伦理合规性与后果论公平性指标。

ABSTRACT

We demonstrate how easy it is for modern machine-learned systems to violate common deontological ethical principles and social norms such as "favor the less fortunate," and "do not penalize good attributes." We propose that in some cases such ethical principles can be incorporated into a machine-learned model by adding shape constraints that constrain the model to respond only positively to relevant inputs. We analyze the relationship between these deontological constraints that act on individuals and the consequentialist group-based fairness goals of one-sided statistical parity and equal opportunity. This strategy works with sensitive attributes that are Boolean or real-valued such as income and age, and can help produce more responsible and trustworthy AI.

研究动机与目标

• 识别现代非线性机器学习模型如何在无意中违反义务论伦理，对更高收入或更高教育水平等有益输入施加惩罚。
• 证明单调性约束可有效防止模型预测中对这些有益属性的不公平惩罚。
• 分析义务论单调性约束与后果论公平性目标（如单边统计均等性和平等机会）之间的关系。
• 表明单调性约束在包括法学院录取、信用违约和资助提案在内的多样化真实世界数据集上均具有鲁棒性、可解释性且有效。

提出的方法

• 对机器学习模型应用形状约束以强制实现单调性——确保特定输入特征（例如GPA、LSAT、收入）的更高值永远不会导致更低的预测结果。
• 使用带单调性约束的广义可加模型（GAMs），并通过保持特征空间中单调性特性的优化方法进行训练。
• 在真实世界数据集上对比带与不带单调性约束的模型，以评估伦理与性能之间的权衡。
• 衡量约束对义务论公平性（例如，不惩罚良好属性）和后果论公平性（例如，单边统计均等性和平等机会）的影响。
• 使用统计指标如最大单边统计均等性违反度和最大单边平等机会违反度来量化公平性的提升。
• 在包含贫困水平、GPA、LSAT和收入等敏感属性的数据集上验证该方法，确保仅对相关特征应用约束。

实验结果

研究问题

• RQ1 基于真实世界数据训练的非线性机器学习模型是否会因对更有利属性（如更高GPA或LSAT分数）施加惩罚而无意中违反义务论伦理原则？
• RQ2 单调性约束在多大程度上减少了对良好属性不施加惩罚或不偏袒处境不利者的伦理原则违反？
• RQ3 单调性约束如何影响单边统计均等性和平等机会等后果论公平性指标？
• RQ4 在实践中，强制实施单调性是否会损害模型性能或泛化能力？
• RQ5 单调性约束能否有效应用于具有复杂非均匀特征分布的真实世界数据集？

主要发现

• 在法学院录取数据集中，未约束的深度神经网络和梯度提升树模型对更高GPA或LSAT分数的申请人施加了惩罚，违反了基于能力的公平性原则。
• 带形状约束的单调GAM模型消除了这些不公平惩罚，同时保持了测试准确率，达到94.97%的测试准确率，优于最佳未约束模型的94.80%。
• 在信用违约数据集中，单调性约束将最大单边统计均等性违反度从0.00751降低至0.00261，将平等机会违反度从0.00397降低至0.00331（共28个特征）。
• 在资助提案数据集中，单调性约束将单边统计均等性违反度从0.00704降低至0.00017，将平等机会违反度从0.00707降低至0.00037（仅2个特征）。
• 所有实验中，约束模型均保持或略微提升了测试性能，尽管施加了伦理约束，AUC或准确率均无显著下降。
• 即使在数据稀疏区域和非均匀特征分布下，单调性约束也表现出色，而未约束模型则表现出过拟合和不公平行为。