[论文解读] AI Fairness for People with Disabilities: Point of View

Shari Trewin|arXiv (Cornell University)|Nov 26, 2018

Disability Rights and Representation参考文献 2被引用 16

一句话总结

本文主张，由于残疾人的极端多样性以及残疾数据的高度敏感性，人工智能中的公平性必须采用独特的框架。文章批判了现有的公平性定义，提出了情境特定的公平性度量标准，并倡导包容性设计与隐私保护型数据实践，以确保人工智能结果的公平性。

ABSTRACT

We consider how fair treatment in society for people with disabilities might be impacted by the rise in the use of artificial intelligence, and especially machine learning methods. We argue that fairness for people with disabilities is different to fairness for other protected attributes such as age, gender or race. One major difference is the extreme diversity of ways disabilities manifest, and people adapt. Secondly, disability information is highly sensitive and not always shared, precisely because of the potential for discrimination. Given these differences, we explore definitions of fairness and how well they work in the disability space. Finally, we suggest ways of approaching fairness for people with disabilities in AI applications.

研究动机与目标

• 探讨传统人工智能公平性定义为何无法满足残障人士的独特需求。
• 强调残疾表现形式和适应策略的多样性作为人工智能公平性核心挑战。
• 探讨残疾数据的敏感性及其对人工智能系统中隐私与非歧视的影响。
• 提出应基于残疾特定情境与生活经验重新思考公平性度量标准。
• 倡导在残障人士相关的AI开发中推行包容性设计与伦理数据实践。

提出的方法

• 批判性分析现有人工智能公平性定义（如人口统计均等、机会均等）在残疾人群中的适用性。
• 强调需要具备情境意识的公平性度量标准，以反映残疾的异质性及个体适应策略。
• 提出将残疾相关视角整合进人工智能公平性研究与开发流程。
• 强调隐私保护型数据收集的重要性，鉴于残疾信息可能引发污名化与歧视。
• 建议通过残障群体参与的设计过程，共同塑造人工智能系统中的公平性标准。
• 主张将公平性重新定义为非一刀切标准，而应是残障包容型AI中动态、情境敏感的建构。

实验结果

研究问题

• RQ1 现有人工智能公平性定义在多大程度上无法满足残障人士的需求？
• RQ2 在人工智能公平性背景下，残疾体验的多样性带来了哪些独特挑战？
• RQ3 残疾数据的敏感性如何影响机器学习系统中的公平性与隐私？
• RQ4 哪些替代性公平性框架适用于残障包容型人工智能开发？
• RQ5 如何让残障用户实质性地参与塑造人工智能应用的公平性标准？

主要发现

• 传统公平性定义（如人口统计均等、机会均等）无法充分捕捉人工智能系统中与残疾相关的差异性问题。
• 残疾表现形式与个体适应策略的极端多样性，要求采用更细致且情境特定的公平性度量标准。
• 残疾数据高度敏感，个体常因害怕歧视而隐瞒此类信息，从而增加基于数据的公平性方法的复杂性。
• 一刀切的公平性框架无法涵盖人工智能应用中残疾的交叉性与动态特征。
• 包容性设计实践与隐私保护型数据处理对实现残障人士的公平人工智能结果至关重要。
• 本文结论认为，残障人士的公平性必须通过以残疾为中心、参与式且情境敏感的方法重新定义。