[论文解读] Investigating Responsible AI for Scientific Research: An Empirical Study

Muneera Bano, Didar Zowghi+2 more|arXiv (Cornell University)|Dec 15, 2023

Ethics and Social Impacts of AI被引用 4

一句话总结

本实证研究采用混合方法研究设计，结合调查与访谈，探究科研机构中负责任人工智能（RAI）实践的现状。研究发现，伦理AI意识存在显著知识空白，对AI伦理框架的熟悉度有限，且对伦理风险普遍低估——凸显了迫切需要建立结构化、多层次的RAI培训与治理框架，以确保科学AI研发中的公平性、问责制与透明度。

ABSTRACT

Scientific research organizations that are developing and deploying Artificial Intelligence (AI) systems are at the intersection of technological progress and ethical considerations. The push for Responsible AI (RAI) in such institutions underscores the increasing emphasis on integrating ethical considerations within AI design and development, championing core values like fairness, accountability, and transparency. For scientific research organizations, prioritizing these practices is paramount not just for mitigating biases and ensuring inclusivity, but also for fostering trust in AI systems among both users and broader stakeholders. In this paper, we explore the practices at a research organization concerning RAI practices, aiming to assess the awareness and preparedness regarding the ethical risks inherent in AI design and development. We have adopted a mixed-method research approach, utilising a comprehensive survey combined with follow-up in-depth interviews with selected participants from AI-related projects. Our results have revealed certain knowledge gaps concerning ethical, responsible, and inclusive AI, with limitations in awareness of the available AI ethics frameworks. This revealed an overarching underestimation of the ethical risks that AI technologies can present, especially when implemented without proper guidelines and governance. Our findings reveal the need for a holistic and multi-tiered strategy to uplift capabilities and better support science research teams for responsible, ethical, and inclusive AI development and deployment.

研究动机与目标

• 评估科研机构在负责任人工智能（RAI）实践方面的意识水平与准备程度。
• 识别科研环境中AI从业者在伦理、负责任及包容性AI方面的知识空白。
• 考察AI伦理框架在科学AI研发项目中的认知与应用程度。
• 评估机构在科研背景下实施伦理AI治理与风险缓解策略的准备程度。

提出的方法

• 采用混合方法研究设计，整合全面调查与后续的深度访谈。
• 对研究机构内多个项目中的AI从业者发放调查问卷，以评估其对RAI知识与实践的掌握情况。
• 从调查中选取部分参与者，邀请其参与深度访谈，以探讨伦理AI实施中的复杂挑战与认知差异。
• 采用主题分析法解读访谈数据，识别伦理风险认知与框架熟悉度中的重复性模式。
• 对调查数据进行定量分析，以衡量意识水平、感知风险程度以及现有AI伦理框架的使用情况。
• 通过调查与访谈数据的三角验证，交叉验证关于RAI准备度与机构差距的洞察。

实验结果

研究问题

• RQ1 科研团队在多大程度上意识到其项目中AI系统相关的伦理风险？
• RQ2 科研机构中的AI从业者对既有的AI伦理框架与指南熟悉程度如何？
• RQ3 在科学AI开发中实施负责任AI实践面临哪些感知障碍？
• RQ4 研究人员如何看待治理与监督在缓解AI系统伦理风险中的作用？
• RQ5 需要哪些机构策略以提升科研团队在RAI方面的能力？

主要发现

• 科研机构中相当比例的AI从业者对AI开发中的核心伦理风险（尤其是偏见与公平性问题）认知有限。
• 仅有少数参与者熟悉或实际应用了如欧盟、经合组织或IEEE等机构发布的既定AI伦理框架。
• 普遍存在对伦理风险的低估，尤其是在缺乏正式审查或监督流程的AI系统开发中。
• 参与者强烈呼吁获得机构支持，包括培训与标准化的RAI评估工具，以提升伦理决策能力。
• 研究发现治理结构存在关键空白，仅有少数正式机制可确保AI部署过程中的问责制与透明度。
• 尽管认识到公平性与透明度的重要性，但这些原则在AI项目中的实际实施仍不一致。