[논문 리뷰] Legal and ethical considerations regarding the use of ChatGPT in education

Fereniki Panagopoulou, Christina Parpoula외 1명|arXiv (Cornell University)|2023. 06. 09.

Artificial Intelligence in Healthcare and Education인용 수 4

한 줄 요약

이 논문은 교육 현장에 ChatGPT를 통합하는 데 있어 법적 및 윤리적 영향을 분석하며, 잠재적 응용 사례, 위험 요소 및 사회적 영향을 다룹니다. 학업 정당성, 데이터 프라이버시, 편향성 등의 핵심 과제를 규명함으로써, 고등교육 분야에서 생성형 AI를 윤리적으로 구현하기 위한 틀을 제안합니다. 교육자와 기관이 책임감 있게 AI를 도입할 수 있도록 권고 사항을 제시합니다.

ABSTRACT

Artificial intelligence has evolved enormously over the last two decades, becoming mainstream in different scientific domains including education, where so far, it is mainly utilized to enhance administrative and intelligent tutoring systems services and academic support. ChatGPT, an artificial intelligence-based chatbot, developed by OpenAI and released in November 2022, has rapidly gained attention from the entire international community for its impressive performance in generating comprehensive, systematic, and informative human-like responses to user input through natural language processing. Inevitably, it has also rapidly posed several challenges, opportunities, and potential issues and concerns raised regarding its use across various scientific disciplines. This paper aims to discuss the legal and ethical implications arising from this new technology, identify potential use cases, and enrich our understanding of Generative AI, such as ChatGPT, and its capabilities in education.

연구 동기 및 목표

• 교육 기관에 ChatGPT를 통합함으로써 발생하는 법적 및 윤리적 과제를 규명하고 분석하는 것.
• ChatGPT와 같은 생성형 AI가 학업 정당성, 데이터 프라이버시, 교육의 형평성에 어떤 영향을 미치는지 분석하는 것.
• 교육의 질 향상과 피해 최소화를 동시에 달성할 수 있는 ChatGPT의 잠재적 응용 사례를 탐색하는 것.
• 교육자와 기관이 생성형 AI 도구를 책임감 있게 도입할 수 있도록 실질적인 권고 사항을 제공하는 것.
• 윤리적 고려 사항을 체계적으로 정리함으로써 고등교육 분야의 AI 거버넌스에 대한 지속적인 논의에 기여하는 것.

제안 방법

• 교육 분야의 AI와 관련된 기존 문헌 및 정책 프레임워크를 주제 분석하는 것.
• 표본 출력물의 질적 평가를 통해 ChatGPT가 학술 분야 전반에서 인간처럼 보이는 텍스트를 생성하는 능력을 평가하는 것.
• 데이터 보호법, 지적 재산권, 기관 정책을 체계적으로 검토함으로써 핵심 법적 및 윤리적 문제를 규명하는 것.
• ChatGPT의 교육적 응용 사례를 매핑하여 허용 가능한 사용과 고위험 사용 사례를 구분하는 것.
• 생성형 AI를 교육 및 평가에 책임감 있게 통합하기 위한 윤리적 지침 및 기관 정책을 제안하는 것.
• 컴퓨터 과학, 교육, 법학을 융합한 다학제적 시각을 통해 체계적 영향을 평가하는 것.

실험 결과

연구 질문

• RQ1 특히 데이터 프라이버시 및 지적 재산권 측면에서 대학 기관에서 ChatGPT를 사용할 때 발생하는 주요 법적 위험 요소는 무엇인가요?
• RQ2 편향, 표절, 공정성 등의 윤리적 우려가 교육 현장에서 ChatGPT의 사용에 어떤 영향을 미치나요?
• RQ3 고등교육 분야에서 수업, 학습 및 행정 지원 분야에서 ChatGPT의 실현 가능하고 책임감 있는 사용 사례는 무엇인가요?
• RQ4 혁신과 책임감, 학생 보호를 균형 있게 유지할 수 있도록 교육 기관이 수립할 수 있는 정책는 무엇인가요?
• RQ5 생성형 AI 도구(예: ChatGPT) 사용 시 투명성, 형평성, 신뢰를 확보하기 위해 필요한 기관 차원의 보호 조치는 무엇인가요?

주요 결과

• ChatGPT는 가짜이지만 신뢰할 수 있을 것처럼 보이는 내용을 생성할 수 있어 학업 정당성에 심각한 위협을 가합니다.
• 제3자 AI 플랫폼을 통해 학생 데이터가 저장되고 처리될 가능성으로 인해 데이터 프라이버시 문제가 발생할 수 있습니다.
• 학습자 다양성이 높은 교육 환경에서 훈련 데이터의 편향은 차별적이거나 정확하지 않은 출력 결과를 초래할 수 있습니다.
• 학술 작업에서 AI가 생성한 콘텐츠의 소유권과 사용을 규율하는 명확한 법적 프레임워크가 부족합니다.
• 사용의 허용 범위를 명확히 하고 투명성을 확보하며 책임감 있는 행동을 유지하기 위해 기관 정책이 필수적입니다.
• 교육자들은 ChatGPT를 교수법에 효과적이고 책임감 있게 통합하기 위해 교육 및 윤리 지침이 필요합니다.