[논문 리뷰] Investigating Responsible AI for Scientific Research: An Empirical Study

Muneera Bano, Didar Zowghi외 2명|arXiv (Cornell University)|2023. 12. 15.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 경험적 연구는 혼합 방법 접근을 통해 과학 연구 기관에서의 책임 있는 인공지능(RAI) 관행을 조사한다. 설문 조사와 AI 프로젝트 팀에 대한 인터뷰를 통합하여 수행되었으며, 윤리적 AI에 대한 인식 부족, AI 윤리 프레임워크에 대한 낮은熟悉도, 윤리적 위험에 대한 과소평가를 드러내며, 과학적 AI 개발에서 공정성, 책임성, 투명성을 확보하기 위해 체계적이고 다단계적인 RAI 교육 및 거버넌스 프레임워크의 긴급한 필요성을 강조한다.

ABSTRACT

Scientific research organizations that are developing and deploying Artificial Intelligence (AI) systems are at the intersection of technological progress and ethical considerations. The push for Responsible AI (RAI) in such institutions underscores the increasing emphasis on integrating ethical considerations within AI design and development, championing core values like fairness, accountability, and transparency. For scientific research organizations, prioritizing these practices is paramount not just for mitigating biases and ensuring inclusivity, but also for fostering trust in AI systems among both users and broader stakeholders. In this paper, we explore the practices at a research organization concerning RAI practices, aiming to assess the awareness and preparedness regarding the ethical risks inherent in AI design and development. We have adopted a mixed-method research approach, utilising a comprehensive survey combined with follow-up in-depth interviews with selected participants from AI-related projects. Our results have revealed certain knowledge gaps concerning ethical, responsible, and inclusive AI, with limitations in awareness of the available AI ethics frameworks. This revealed an overarching underestimation of the ethical risks that AI technologies can present, especially when implemented without proper guidelines and governance. Our findings reveal the need for a holistic and multi-tiered strategy to uplift capabilities and better support science research teams for responsible, ethical, and inclusive AI development and deployment.

연구 동기 및 목표

• 과학 연구 기관이 책임 있는 인공지능(RAI) 관행에 대해 얼마나 인식하고 있고 준비되어 있는지 평가하기 위해.
• 연구 환경에서 AI 전문가들 사이에서 윤리적, 책임감 있는, 포괄적인 AI에 대한 지식 격차를 특정하기 위해.
• 과학적 AI 개발 프로젝트에서 AI 윤리 프레임워크가 얼마나 인식되고 적용되고 있는지 평가하기 위해.
• 연구 맥락에서 윤리적 AI 거버넌스 및 위험 완화 전략을 구현하기 위한 기관의 준비 상태 평가하기 위해.

제안 방법

• 혼합 방법 연구 설계를 사용하여 종합적인 설문 조사와 후속 심층 인터뷰를 통합하였다.
• RAI 지식과 관행를 평가하기 위해 연구 기관 내 여러 프로젝트의 AI 전문가들에게 설문 조사를 시행하였다.
• 설문 조사에 응답한 참가자 중 일부를 선별해 윤리적 AI 구현과 관련된 복잡한 과제와 인식을 탐구하기 위한 심층 인터뷰를 진행하였다.
• 주제 분석을 통해 인터뷰 데이터를 해석하여 윤리적 위험 인식과 프레임워크 익명도에 대한 반복적인 패턴을 식별하였다.
• 설문 조사 데이터는 정량적으로 분석되어 인식 수준, 인식된 위험 수준, 기존 AI 윤리 프레임워크 사용 여부를 측정하였다.
• 설문 조사와 인터뷰 데이터를 교차 검증하여 RAI 준비도와 기관 차원의 격차에 대한 통찰을 검증하였다.

실험 결과

연구 질문

• RQ1 과학 연구 팀은 자신의 프로젝트에서 AI 시스템과 관련된 윤리적 위험에 얼마나 인식하고 있는가?
• RQ2 연구 기관의 AI 전문가들은 기존의 AI 윤리 프레임워크 및 지침(예: EU, OECD, IEEE)에 얼마나 익숙한가?
• RQ3 과학적 AI 개발에서 책임 있는 AI 관행를 구현하는 데 있어 인식되는 장애물은 무엇인가?
• RQ4 연구자들은 거버넌스 및 감독이 AI 시스템의 윤리적 위험을 완화하는 데 어떤 역할을 하는지 어떻게 인식하고 있는가?
• RQ5 과학 연구 팀 전반에서 RAI 역량을 향상시키기 위해 어떤 기관 전략이 필요한가?

주요 결과

• 과학 연구 기관의 많은 AI 전문가들이 AI 개발의 핵심 윤리적 위험, 특히 편향과 공정성 문제에 대해 제한된 인식을 보였다.
• 참가자 중 소수만이 유럽연합(EU), OECD, IEEE 등의 기존 AI 윤리 프레임워크를 알고 있거나 실제로 적용하고 있었다.
• 특히 공식적인 심사나 감독 절차 없이 AI 시스템을 개발할 경우 윤리적 위험에 대한 과소평가가 널리 퍼져 있었다.
• 참가자들은 윤리적 의사결정을 향상시키기 위해 교육과 표준화된 RAI 평가 도구를 포함한 기관 차원의 지원이 강력히 필요하다고 밝혔다.
• 기본적인 책임성과 투명성 확보를 위한 거버넌스 구조의 심각한 격차가 드러났으며, AI 배포 시 책임성과 투명성을 보장할 수 있는 공식적 메커니즘이 거의 없었다.
• 공정성과 투명성의 중요성은 인정되었지만, 실제 프로젝트에서는 이러한 원칙의 이행이 일관되지 않았다.