[论文解读] Mapping for accessibility: A case study of ethics in data science for social good

Anissa Tanweer, Nicholas Bolten+5 more|arXiv (Cornell University)|Oct 18, 2017

Disability Rights and Representation参考文献 11被引用 5

一句话总结

本文通过一项针对为社会公益服务的数据科学（DSSG）项目中伦理挑战的案例研究，探讨了如何改善行动能力受限人群的导航体验。通过分析团队在公平性、问责制、隐私和科技过度扩张等议题上的应对方式，作者提出了一套框架，旨在将伦理思考早期、持续且平衡地融入DSSG工作之中，使其成为一种价值导向的实践。

ABSTRACT

Ethics in the emerging world of data science are often discussed through cautionary tales about the dire consequences of missteps taken by high profile companies or organizations. We take a different approach by foregrounding the ways that ethics are implicated in the day-to-day work of data science, focusing on instances in which data scientists recognize, grapple with, and conscientiously respond to ethical challenges. This paper presents a case study of ethical dilemmas that arose in a "data science for social good" (DSSG) project focused on improving navigation for people with limited mobility. We describe how this particular DSSG team responded to those dilemmas, and how those responses gave rise to still more dilemmas. While the details of the case discussed here are unique, the ethical dilemmas they illuminate can commonly be found across many DSSG projects. These include: the risk of exacerbating disparities; the thorniness of algorithmic accountability; the evolving opportunities for mischief presented by new technologies; the subjective and value- laden interpretations at the heart of any data-intensive project; the potential for data to amplify or mute particular voices; the possibility of privacy violations; and the folly of technological solutionism. Based on our tracing of the team's responses to these dilemmas, we distill lessons for an ethical data science practice that can be more generally applied across DSSG projects. Specifically, this case experience highlights the importance of: 1) Setting the scene early on for ethical thinking 2) Recognizing ethical decision-making as an emergent phenomenon intertwined with the quotidian work of data science for social good 3) Approaching ethical thinking as a thoughtful and intentional balancing of priorities rather than a binary differentiation between right and wrong.

研究动机与目标

• 考察伦理如何融入数据科学为社会公益服务的日常实践中，而不仅局限于重大失败事件。
• 识别DSSG项目中反复出现的伦理困境，例如加剧社会差距和算法问责问题。
• 探讨价值导向的解读方式与数据呈现如何放大或压抑边缘化群体的声音。
• 强调在数据密集型社会公益项目中，技术解决方案主义和隐私侵犯风险的严重性。
• 提出一种实用的伦理数据科学框架，强调早期介入、持续迭代和审慎平衡的决策过程。

提出的方法

• 对一项聚焦于为行动能力受限人群提供城市无障碍导航的DSSG项目开展定性案例研究。
• 追踪团队在整个项目生命周期中对伦理困境的应对策略，强调实时决策过程。
• 通过团队讨论和项目文档的主题分析，识别出反复出现的伦理挑战。
• 强调在项目设计初期即设定伦理语境的重要性，而非将伦理视为事后补充。
• 基于迭代式、价值导向且情境敏感的决策过程，提出一套伦理数据科学实践的框架。
• 将案例研究的洞察推广至更广泛的DSSG项目，提炼出普适性的伦理原则。

实验结果

研究问题

• RQ1 DSSG项目中的数据科学家如何在日常工作中识别并回应伦理挑战？
• RQ2 在旨在促进社会公益的数据科学项目中，特别是无障碍性相关情境下，哪些反复出现的伦理困境会浮现？
• RQ3 如何将伦理决策整合进数据科学项目的技术工作流程中，而非将其视为独立议题？
• RQ4 在哪些方面，数据收集与算法设计可能无意中加剧现有的社会不平等？
• RQ5 如何实现伦理考量的审慎平衡，而非简单地将其归结为对错二元判断？

主要发现

• DSSG项目中的伦理挑战并非孤立事件，而是在整个项目生命周期中持续浮现。
• 团队在数据呈现、隐私保护和算法问责等方面遭遇了随项目推进而演变的伦理困境。
• 在项目初期即明确伦理语境，有助于团队更前瞻性地预见并更审慎地回应新出现的问题。
• 伦理决策被发现是动态生成的，并与技术工作深度融合，而非一次性检查清单。
• 该项目揭示了技术解决方案主义——即认为仅靠数据和算法即可解决社会问题——往往忽视结构性不平等问题。
• 本研究表明，数据科学中的伦理思维需要有意识地、持续地平衡相互冲突的价值，而非机械遵循僵化规则。