[论文解读] Monotonicity for AI ethics and society: An empirical study of the monotonic neural additive model in criminology, education, health care, and finance

Dangxing Chen, Luyao Zhang|arXiv (Cornell University)|Jan 17, 2023

Ethics and Social Impacts of AI被引用 6

一句话总结

本文提出单调神经加法模型（MNAMs），以在量刑学、教育、医疗保健和金融等对公平性敏感的AI应用中强制实施个体和成对单调性。通过将领域知识整合到神经加法模型中，MNAMs 减少了单调性违反，提升了公平性和可解释性，实证结果表明，与标准NAMs相比，其在不公平模型行为方面有显著减少。

ABSTRACT

Algorithm fairness in the application of artificial intelligence (AI) is essential for a better society. As the foundational axiom of social mechanisms, fairness consists of multiple facets. Although the machine learning (ML) community has focused on intersectionality as a matter of statistical parity, especially in discrimination issues, an emerging body of literature addresses another facet -- monotonicity. Based on domain expertise, monotonicity plays a vital role in numerous fairness-related areas, where violations could misguide human decisions and lead to disastrous consequences. In this paper, we first systematically evaluate the significance of applying monotonic neural additive models (MNAMs), which use a fairness-aware ML algorithm to enforce both individual and pairwise monotonicity principles, for the fairness of AI ethics and society. We have found, through a hybrid method of theoretical reasoning, simulation, and extensive empirical analysis, that considering monotonicity axioms is essential in all areas of fairness, including criminology, education, health care, and finance. Our research contributes to the interdisciplinary research at the interface of AI ethics, explainable AI (XAI), and human-computer interactions (HCIs). By evidencing the catastrophic consequences if monotonicity is not met, we address the significance of monotonicity requirements in AI applications. Furthermore, we demonstrate that MNAMs are an effective fairness-aware ML approach by imposing monotonicity restrictions integrating human intelligence.

研究动机与目标

• 调查单调性在确保高风险领域AI应用中公平性和伦理完整性方面所起的关键作用。
• 解决现有机器学习研究中忽视成对单调性的问题，尽管其在现实决策中至关重要。
• 评估通过MNAMs强制实施单调性是否能提升模型公平性、可解释性以及与特定领域因果推理的一致性。
• 证明数据中的单调性违反——由边际效应递减和噪声引起——可能导致AI系统出现灾难性决策错误。

提出的方法

• 提出单调神经加法模型（MNAMs）作为神经加法模型（NAMs）的扩展，整合了个体和成对单调性约束。
• 采用混合方法，结合理论分析、模拟实验和在四个领域真实数据集上的实证评估。
• 通过使用具有单调性诱导激活函数和权重共享的参数化神经网络，实施单调性约束，以强制实现特征层面的单调行为。
• 采用惩罚非单调预测的损失函数，确保模型输出根据领域知识随输入特征一致地增加或减少。
• 使用标准指标（分类误差、AUC）验证模型性能，并通过特征重要性图可视化单调性行为。
• 在多个公平性和准确性基准上，将MNAMs与标准NAMs和全连接神经网络（FCNNs）进行比较。

实验结果

研究问题

• RQ1 导致理论单调性与真实数据中观察到的非单调性之间差异的数学和统计因素是什么？
• RQ2 MNAMs能否在量刑学、教育、医疗保健和金融等对公平性敏感的领域中有效强制实施个体和成对单调性？
• RQ3 在公平性、准确性和单调性合规性方面，MNAMs与标准NAMs和FCNNs相比表现如何？
• RQ4 在高风险AI应用中忽略单调性会产生何种后果，MNAMs如何缓解这些风险？

主要发现

• 机器学习模型中的单调性违反系统性地由边际效应递减和数据中高随机噪声引起，导致反直觉且不公平的预测。
• 模拟结果证实，即使具备正确的领域知识，标准NAMs仍因拟合噪声或非单调数据模式而频繁违反单调性。
• 在FICO信用评分数据集上，MNAM将分类误差降低至27.0%，AUC降低至80.1%，优于NAM（27.3%，80.0%）和FCNN（27.8%，80.0%）。
• 可视化分析显示，NAMs在违约特征上违反了个体和成对单调性，而MNAMs正确强调了近期违约更具预测性。
• MNAMs成功强制实施了成对单调性，确保近期违约事件的权重高于旧事件，与领域逻辑一致。
• 集成单调性约束显著提升了模型可信度和可解释性，且未牺牲预测性能。