[论文解读] Interdisciplinary Approaches to Understanding Artificial Intelligence's Impact on Society

Suresh Venkatasubramanian, Nadya Bliss+2 more|arXiv (Cornell University)|Dec 11, 2020

Ethics and Social Impacts of AI被引用 5

一句话总结

本文主张将计算机科学与社会科学、人文学科相结合，以应对人工智能对社会的影响，认为当前的人工智能发展过度聚焦于技术层面的'如何'与'什么'问题，而忽视了伦理、社会和情境层面的关切。其核心贡献在于呼吁跨学科合作，以预见并减轻人工智能系统可能带来的偏见、监控和民主制度削弱等危害。

ABSTRACT

Innovations in AI have focused primarily on the questions of "what" and "how"-algorithms for finding patterns in web searches, for instance-without adequate attention to the possible harms (such as privacy, bias, or manipulation) and without adequate consideration of the societal context in which these systems operate. In part, this is driven by incentives and forces in the tech industry, where a more product-driven focus tends to drown out broader reflective concerns about potential harms and misframings. But this focus on what and how is largely a reflection of the engineering and mathematics-focused training in computer science, which emphasizes the building of tools and development of computational concepts. As a result of this tight technical focus, and the rapid, worldwide explosion in its use, AI has come with a storm of unanticipated socio-technical problems, ranging from algorithms that act in racially or gender-biased ways, get caught in feedback loops that perpetuate inequalities, or enable unprecedented behavioral monitoring surveillance that challenges the fundamental values of free, democratic societies. Given that AI is no longer solely the domain of technologists but rather of society as a whole, we need tighter coupling of computer science and those disciplines that study society and societal values.

研究动机与目标

• 解决人工智能系统在缺乏对伦理和社会影响充分关注的情况下所引发的日益增长的社会风险。
• 批判当前计算机科学教育与产业实践中过度侧重工程与数学方法的倾向，即优先考虑功能而非社会语境。
• 揭示在缺乏跨学科监督的情况下部署人工智能所导致的后果，包括系统性偏见、监控以及民主制度的削弱。
• 倡导将计算机科学与研究社会、价值观与治理的学科更紧密地整合，以确保人工智能的负责任发展。
• 将人工智能视为一项社会挑战，需要超越单纯的技术创新，吸纳多样学科的参与。

提出的方法

• 本文采用概念性与政策导向的框架，综合计算机科学、伦理学与社会理论的洞见。
• 通过分析现实世界中人工智能的失败案例——如存在偏见的算法和监控系统——说明因技术短视而产生的系统性风险。
• 利用人工智能系统加剧歧视或促成大规模监控的案例研究，阐明情境意识的必要性。
• 该方法强调在人工智能设计生命周期早期嵌入伦理反思，而非将其视为事后补救措施。
• 提出改革学术界与工业界的激励机制，使社会影响评估获得与技术性能指标同等的重视。
• 框架呼吁在人工智能研究与开发中组建跨学科团队，整合社会学、法学、哲学与公共政策等领域的专家。

实验结果

研究问题

• RQ1 当前的人工智能开发实践为何未能充分考虑社会价值观与潜在危害？
• RQ2 人工智能系统在现实应用中产生偏见或歧视性结果的根本原因是什么？
• RQ3 为何当前计算机科学中的技术导向不足以应对人工智能中复杂的人机技术挑战？
• RQ4 跨学科合作如何改善人工智能系统的设计与治理？
• RQ5 需要哪些制度与教育改革，才能将社会影响嵌入人工智能的研究与开发之中？

主要发现

• 由于在开发过程中对社会语境关注不足，人工智能系统频繁导致种族或性别偏见的结果。
• 人工智能系统中的反馈回路可能加剧并放大既有的社会不平等，尤其在招聘与信贷等高风险领域。
• 由人工智能支持的大规模监控挑战了隐私与自主权等基本民主价值观。
• 当前科技产业模式优先考虑快速部署与产品化，而非伦理反思，导致不可预见的伤害。
• 人工智能教育与研究中存在关键缺口，即排除了社会科学与人文学科的视角，导致解决方案过于狭隘。
• 跨学科合作对于在人工智能系统大规模部署前预见、评估与减轻社会风险至关重要。