[论文解读] Implications of the AI Act for Non-Discrimination Law and Algorithmic Fairness

Luca Deck, Jan-Laurin Müller+3 more|arXiv (Cornell University)|Mar 29, 2024

Digital Transformation in LawEconomics, Econometrics and Finance被引用 3

一句话总结

本文主张，欧盟人工智能法案通过在高风险人工智能系统的设计阶段嵌入非歧视责任，弥合了法律非歧视法与技术算法公平性之间的鸿沟。该文提出，人工智能法案的框架可通过针对特定社会语境定制的公平性度量指标和偏见检测协议，解决两个领域中的执法挑战，尽管也指出了度量选择与统计检验可靠性之间的关键权衡。

ABSTRACT

The topic of fairness in AI, as debated in the FATE (Fairness, Accountability, Transparency, and Ethics in AI) communities, has sparked meaningful discussions in the past years. However, from a legal perspective, particularly from the perspective of European Union law, many open questions remain. Whereas algorithmic fairness aims to mitigate structural inequalities at design-level, European non-discrimination law is tailored to individual cases of discrimination after an AI model has been deployed. The AI Act might present a tremendous step towards bridging these two approaches by shifting non-discrimination responsibilities into the design stage of AI models. Based on an integrative reading of the AI Act, we comment on legal as well as technical enforcement problems and propose practical implications on bias detection and bias correction in order to specify and comply with specific technical requirements.

研究动机与目标

• 分析法律非歧视法与技术算法公平性方法之间的错配问题。
• 研究欧盟人工智能法案如何作为法律与技术公平性话语之间的桥梁。
• 识别在定义‘适当’的公平性度量指标以及检测可能导致歧视的偏见方面的实际挑战。
• 通过人工智能法案的监管框架，解决法律与技术领域中的执法问题。
• 提供与法律和技术要求相一致的偏见检测与纠正的可操作指导。

提出的方法

• 对欧盟人工智能法案中关于高风险人工智能系统的条款进行整合性的法律与技术分析。
• 将法律上的非歧视概念与现有技术公平性度量指标进行映射，强调其在特定语境下的适用性。
• 使用统计假设检验（如z检验）来评估对如人口比例平等等公平性度量的合规性。
• 分析在不同样本量和录用率下，偏见检测中第一类错误与第二类错误的发生率。
• 提出一种基于社会语境与法律标准的公平性度量选择框架。
• 评估在GDPR下对特殊类别数据的处理作为公平敏感人工智能训练数据使用之正当理由的作用。

实验结果

研究问题

• RQ1 欧盟人工智能法案如何调和非歧视法的事后执法模式与算法公平性的事前设计重点？
• RQ2 在人工智能法案要求下，哪些技术公平性度量适用于不同社会语境？
• RQ3 需要何种统计标准才能可靠检测出可能导致歧视的偏见？
• RQ4 样本量与录用率如何影响偏见检测测试的可靠性？
• RQ5 人工智能法案的框架在多大程度上能够解决法律与技术公平性执法中的执行缺口？

主要发现

• 人工智能法案将非歧视责任从部署后的诉讼转移至设计阶段，使法律与技术公平性目标趋于一致。
• 统计假设检验（如z检验）可用于验证对如人口比例平等等公平性度量的合规性，但其可靠性取决于样本量与录用率。
• 即使群体差异保持不变，样本量越大、录用率越高，第二类错误（未能检测到违规）显著减少。
• 对于类别不平衡的数据集，录用率对第二类错误的影响更为显著：在1800:200的样本比例下，当录用人数从980降至780时，第二类错误减少6个百分点。
• 单一标准的公平性度量不足以应对所有情况；必须实现法律上对歧视的理解与技术上公平性定义之间的语境化对齐。
• 人工智能法案允许在GDPR框架下为公平性目的处理特殊类别数据，但这也带来了复杂的公私利益权衡。