[論文レビュー] Mapping for accessibility: A case study of ethics in data science for social good

Anissa Tanweer, Nicholas Bolten+5 more|arXiv (Cornell University)|Oct 18, 2017

Disability Rights and Representation参考文献 11被引用数 5

ひとこと要約

本論文は、移動に制限のある人々のナビゲーションを改善することを目的としたデータサイエンス・フォー・ソーシャル・グッド（DSSG）プロジェクトにおける倫理的課題の事例研究を提示する。チームが公平性、責任性、プライバシー、技術的過剰な介入に関するジレンマをどのように扱ったかを分析することで、DSSG作業において倫理的思考を早期に、段階的に、バランスの取れた価値に基づいた実践として統合するためのフレームワークを提唱する。

ABSTRACT

Ethics in the emerging world of data science are often discussed through cautionary tales about the dire consequences of missteps taken by high profile companies or organizations. We take a different approach by foregrounding the ways that ethics are implicated in the day-to-day work of data science, focusing on instances in which data scientists recognize, grapple with, and conscientiously respond to ethical challenges. This paper presents a case study of ethical dilemmas that arose in a "data science for social good" (DSSG) project focused on improving navigation for people with limited mobility. We describe how this particular DSSG team responded to those dilemmas, and how those responses gave rise to still more dilemmas. While the details of the case discussed here are unique, the ethical dilemmas they illuminate can commonly be found across many DSSG projects. These include: the risk of exacerbating disparities; the thorniness of algorithmic accountability; the evolving opportunities for mischief presented by new technologies; the subjective and value- laden interpretations at the heart of any data-intensive project; the potential for data to amplify or mute particular voices; the possibility of privacy violations; and the folly of technological solutionism. Based on our tracing of the team's responses to these dilemmas, we distill lessons for an ethical data science practice that can be more generally applied across DSSG projects. Specifically, this case experience highlights the importance of: 1) Setting the scene early on for ethical thinking 2) Recognizing ethical decision-making as an emergent phenomenon intertwined with the quotidian work of data science for social good 3) Approaching ethical thinking as a thoughtful and intentional balancing of priorities rather than a binary differentiation between right and wrong.

研究の動機と目的

• 高名な失敗に限らず、データサイエンス・フォー・ソーシャル・グッドにおける倫理が日常の実務にどのように組み込まれているかを検討すること。
• 特にアクセシビリティの文脈において、格差の拡大やアルゴリズムの責任性に関する問題といった、DSSGプロジェクトで繰り返し現れる倫理的ジレンマを特定すること。
• 価値に基づいた解釈やデータ表現が、弱い立場にある人々の声を強めるか、あるいは無視してしまうかのメカニズムを検討すること。
• データ集約型の社会的善性イニシアチブにおいて、技術的解決策の万能主義とプライバシー侵害のリスクを浮き彫りにすること。
• 早期かつ段階的で、バランスの取れた意思決定を重視する、実用的な倫理的データサイエンスのフレームワークを開発すること。

提案手法

• 移動に制限のある人々のための都市内ナビゲーションを目的としたDSSGプロジェクトにおける定性的事例研究を実施した。
• プロジェクトのライフサイクル全体を通じて、チームが倫理的ジレンマにどう対応したかを追跡し、リアルタイムでの意思決定の重要性を強調した。
• チームのディスカッションとプロジェクト文書の主題的分析を通じて、繰り返し現れる倫理的課題を同定した。
• 倫理的文脈をプロジェクト設計の初期段階で設定することが重要であり、倫理を後から追加するのではなく、最初から組み込むべきであることを強調した。
• 段階的で価値に基づき、文脈に敏感な意思決定に基づいた、倫理的データサイエンス実践のフレームワークを提唱した。
• この事例からの知見を応用し、多様なDSSGイニシアチブに一般化可能な倫理的原則を導き出した。

実験結果

リサーチクエスチョン

• RQ1 DSSGプロジェクトにおけるデータサイエンティストは、日常の業務の中で倫理的課題をどのように認識し、対応しているか？
• RQ2 社会的善性を目的としたデータサイエンスプロジェクトにおいて、特にアクセシビリティの文脈で繰り返し現れる倫理的ジレンマとは何か？
• RQ3 倫理的意思決定を技術的ワークフローにどのように統合するか、それとも別個の懸念として扱うのか？
• RQ4 データ収集やアルゴリズム設計が、どのように既存の社会的格差を助長してしまう可能性があるか？
• RQ5 倫理的考慮を単純な正誤判断ではなく、どのように慎重にバランスさせるか？

主な発見

• DSSGプロジェクトにおける倫理的課題は、孤立した出来事ではなく、プロジェクトのライフサイクル全体にわたり継続的に生じるものである。
• チームは、データ表現、プライバシー、アルゴリズムの責任性に関するジレンマに直面し、プロジェクトが進行するにつれてその内容が変化した。
• プロジェクトの初期段階で倫理的文脈を設定することで、チームは新たな問題に対してより洗練された対応が可能になった。
• 倫理的意思決定は、一時的なチェックリストではなく、技術的作業と密接に絡み合い、段階的に発展するものであることが明らかになった。
• プロジェクトは、データとアルゴリズムだけで社会的問題を解決できるという技術的解決策の万能主義が、構造的不平等を無視している可能性を示した。
• 本研究は、データサイエンスにおける倫理的思考が、厳密なルールに従うのではなく、競合する価値を意図的かつ継続的に調整する必要があることを示している。