[论文解读] Active Fairness Instead of Unawareness

Boris Ruf, Marcin Detyniecki|arXiv (Cornell University)|Sep 14, 2020

Ethics and Social Impacts of AI参考文献 4被引用 6

一句话总结

该论文提出了‘主动公平性’——一种从‘通过无意识实现公平’到主动使用敏感属性以检测和缓解歧视的范式转变。通过直接监控受保护群体，实现可验证的公平性审计，解决了高维数据中代理歧视和隐藏偏见的局限性。

ABSTRACT

The possible risk that AI systems could promote discrimination by reproducing and enforcing unwanted bias in data has been broadly discussed in research and society. Many current legal standards demand to remove sensitive attributes from data in order to achieve "fairness through unawareness". We argue that this approach is obsolete in the era of big data where large datasets with highly correlated attributes are common. In the contrary, we propose the active use of sensitive attributes with the purpose of observing and controlling any kind of discrimination, and thus leading to fair results.

研究动机与目标

• 挑战当前法律和技术领域中通过移除敏感属性以实现公平的主流做法。
• 解决在具有高维相关数据的现代人工智能系统中，‘通过无意识实现公平’的不足。
• 证明排除敏感属性无法防止间接或代理歧视。
• 倡导主动使用敏感属性作为实现可验证、可审计公平性的必要条件。
• 使监管机构和利益相关方能够通过透明、数据驱动的公平性监控，检测并纠正偏见。

提出的方法

• 以敏感属性的主动纳入替代反分类原则，用于模型训练和评估。
• 将敏感属性作为显式变量，用于监控和度量不同受保护群体之间的差异影响。
• 实施受限访问控制和技术保护措施，防止敏感数据被滥用。
• 通过在数据管道中使敏感属性可观察，实现统计公平性度量（例如，人口均等性、机会均等性）。
• 通过向第三方和监管机构提供受保护群体结果的透明访问，支持可审计性。
• 利用现有的代理重构技术（例如，BISG）作为证据，表明无意识无法防止歧视，从而为积极监督提供正当性。

实验结果

研究问题

• RQ1 从训练数据中移除敏感属性是否真的能防止人工智能系统中的歧视？
• RQ2 在大数据中，高维相关特征在多大程度上可作为敏感属性的代理？
• RQ3 如果敏感属性被排除在数据之外，公平性如何实现可验证的度量和审计？
• RQ4 当敏感属性被省略但其代理仍存在时，间接歧视的风险是什么？
• RQ5 通过技术保护措施，主动使用敏感属性是否能在保护隐私的同时提升公平性？

主要发现

• 由于非敏感属性与敏感属性之间存在强烈相关性，‘通过无意识实现公平’的方法在现代人工智能中已不足。
• 诸如邮政编码、姓氏或职业模式等代理属性，可有效重构种族或性别等敏感信息。
• 即使未显式使用敏感属性，历史偏见仍可能通过间接相关性持续存在并被强化。
• 主动纳入敏感属性可实现公平性的可度量评估，并检测不同群体间的差异影响。
• 通过受限访问等技术保护措施，可在降低隐私风险的同时实现可审计的公平性。
• 向主动公平性转变支持可验证、透明且可问责的人工智能系统，从而增强社会对自动化决策的信任。