[논문 리뷰] Science in the Era of ChatGPT, Large Language Models and Generative AI: Challenges for Research Ethics and How to Respond

Evangelos Pournaras|arXiv (Cornell University)|2023. 05. 24.

Artificial Intelligence in Healthcare and Education인용 수 7

한 줄 요약

이 논문은 과학에서의 대규모 언어 모델이 제기하는 인식론적 및 윤리적 위험을 검토하고, 생성 AI 시대의 책임 있는 연구 윤리를 위한 열 가지 포괄적이고 개방형 실행 계획을 제시한다.

ABSTRACT

Large language models of artificial intelligence (AI), such as ChatGPT, find remarkable but controversial applicability in science and research. This paper reviews epistemological challenges, ethical and integrity risks in science conduct in the advent of generative AI. This is with the aim to lay new timely foundations for a high-quality research ethics review. The role of AI language models as a research instrument and subject is scrutinized along with ethical implications for scientists, participants and reviewers. New emerging practices for research ethics review are discussed, concluding with ten recommendations that shape a response for a more responsible research conduct in the era of AI.

연구 동기 및 목표

• 생성형 AI가 과학 연구에서 제기하는 인식론적 및 윤리적 문제를 식별한다.
• 윤리 심의에서 연구 도구로서의 AI와 연구 주체로서의 AI의 역할을 구별한다.
• 생성형 AI 시대의 연구윤리 심의 관행에 대한 실용적 개혁을 제안한다.
• AI를 활용한 책임 있는 연구 수행을 개선하기 위한 열 가지 실천 지향적 의제를 제시한다.

제안 방법

• 과학에서의 생성형 AI에 관한 인식론적 및 윤리적 문헌을 고찰한다.
• 연구 설계에서 연구 도구로서의 AI와 연구 주체로서의 AI의 역할을 분석한다.
• 현재 연구윤리 심의 관행을 평가하고 AI 기반 연구에 어떻게 적응해야 하는지 검토한다.
• 연구 결과를 연구윤리위원회와 연구자들을 위한 열 가지 구체적 권고로 종합한다.

실험 결과

연구 질문

• RQ1 생성형 AI 언어 모델이 과학적 탐구에서 인식론적·진실성 문제를 어떻게 제기하는가?
• RQ2 연구 설계에서 AI 언어 모델이 어떤 역할을 할 수 있으며(도구로 vs. 주체로), 그에 따른 윤리적 함의는 무엇인가?
• RQ3 다양한 연구 단계에서 생성형 AI의 사용을 다루도록 연구윤리 심의 프로세스는 어떻게 발전해야 하는가?
• RQ4 AI 시대에 연구윤리위원회, 연구자 및 기관을 이끌 수 있는 구체적이고 실행 가능한 권고는 무엇인가?

주요 결과

• AI 언어 모델은 연구 산출물의 저자 자격, 데이터 무결성, 투명성에 중대한 도전을 제시한다.
• AI는 연구 도구로서와 연구 주제로서 모두 기능할 수 있으며, 각각은 신중한 귀속과 감사를 필요로 하는 뚜렷한 윤리적 위험을 가진다.
• 윤리 심의 관행은 설계, 수행, 심의 단계 전반에 걸친 편향, 잘못된 정보, 데이터 프라이버시, 책임성 등을 포함한 AI 특유의 위험을 다루도록 확장되어야 한다.
• AI 모델 버전, 프롬프트, 응답의 문서는 책임성을 유지하고 부정확성 및 편향 완화에 기여하는 데 필수적이다.
• 폐쇄형 독점 AI 모델에 대한 감사 프로토콜이 필요하다.
• 열 가지 권고안은 AI 기반 과학에서 연구 무결성을 지키기 위한 유연하고 진화하는 의제를 제공한다.