[논문 리뷰] Ethical Considerations in Artificial Intelligence Courses

Emanuelle Burton, Judy Goldsmith외 4명|arXiv (Cornell University)|2017. 01. 26.

Ethics and Social Impacts of AI참고 문헌 26인용 수 8

한 줄 요약

이 논문은 AI 교육자들에게 윤리적 고려사항을 AI 커리큘럼에 통합하기 위한 실용적인 프레임워크, 사례 연구 및 교육 자료를 제공한다. 과학소설과 실제 윤리적 딜레마를 활용하여 AI 설계에서의 도덕적 사고를 가르치는 것을 주장하며, 전용 윤리 과정과 핵심 AI 과정 내 통합 모듈 모두에 적용 가능한 체계적인 접근법을 제시한다.

ABSTRACT

The recent surge in interest in ethics in artificial intelligence may leave many educators wondering how to address moral, ethical, and philosophical issues in their AI courses. As instructors we want to develop curriculum that not only prepares students to be artificial intelligence practitioners, but also to understand the moral, ethical, and philosophical impacts that artificial intelligence will have on society. In this article we provide practical case studies and links to resources for use by AI educators. We also provide concrete suggestions on how to integrate AI ethics into a general artificial intelligence course and how to teach a stand-alone artificial intelligence ethics course.

연구 동기 및 목표

• 인공지능의 급속한 발전 속에서 윤리적 소양이 요구되는 상황에 대응하기 위해 AI 교육 분야의 윤리적 이해 증진이 필요하다.
• 교육자들이 핵심 AI 커리큘럼 내에서 전용 단원으로도, 통합 모듈로도 윤리적 사고를 효과적으로 가르칠 수 있도록 실행 가능한 전략을 제공한다.
• 실제 사례 연구와 과학소설을 교육적 도구로 활용하여 이론적 윤리와 실제 AI 개발 간 격차를 메운다.
• 미래의 AI 전문가들이 AI 시스템의 사회적, 도덕적, 철학적 영향을 예측하고 분석하며 대응할 수 있는 능력을 갖추도록 한다.
• AI 교육의 기초 단계에서 윤리적 탐구를 통합함으로써 AI 설계에 대한 장기적인 책임감을 조기에 심어준다.

제안 방법

• 빅데이터에서의 AI 편향, 자율주행차의 의사결정 딜레마, 그리고 *Ex Machina*와 *Robot & Frank*와 같은 과학소설 영화를 바탕으로 한 세 가지 세부 사례 연구를 개발하고 제시한다.
• 유틸리타리티즘, 미덕 윤리, 의무론과 같은 주요 윤리 이론을 AI 설계 선택과 사례 연구 분석에 통합한다.
• 자율 에이전트와 인공 의식을 다루는 가상이지만 윤리적으로 풍부한 시나리오를 탐구하기 위해 과학소설을 서사적 프레임워크로 활용한다.
• 샘플 강의 자료, 교재 발췌문, AI 및 로봇 윤리 분야의 기존 오픈 액세스 교육 콘텐츠 링크를 포함한 체계적인 교육 자료를 제공한다.
• AAAI 및 IJCAI의 AI 윤리 워크숍과 Russell과 Norvig의 AI(3판)와 같은 교재를 활용해 기초 내용을 확보한다.
• 윤리 이론과 적용 기반 문제 해결을 융합한 교육 모델을 제안하여 학생들이 윤리적 사고를 통해 AI 시스템 설계의 상충 관계를 평가할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 기본 커리큘럼을 전면 개편하지 않고도 교육자들이 표준 인공지능 과정에 윤리적 사고를 효과적으로 통합할 수 있는 방법은 무엇인가?
• RQ2 과학소설 영화는 학생들이 AI 개발의 복잡한 윤리적 딜레마를 이해하고 토론하는 데 어떤 역할을 할 수 있는가?
• RQ3 빅데이터에서의 알고리즘 편향과 같은 실제 사례는 어떻게 AI 시스템의 윤리적 의사결정을 가르치는 데 활용될 수 있는가?
• RQ4 AI 행동과 설계 선택을 분석하는 데 가장 효과적인 윤리적 프레임워크(예: 유틸리타리티즘, 미덕 윤리)는 무엇인가?
• RQ5 장기적인 윤리적 책임감을 AI 전문가들에게 심어주기 위해 가장 효과적인 교육 자료와 강의 구조는 무엇인가?

주요 결과

• *Ex Machina*와 *Robot & Frank*와 같은 과학소설 영화를 활용하면 AI의 추상적인 윤리적 문제에 대한 학생들의 참여도와 이해도가 크게 향상된다.
• 실제 AI 실패 사례(예: 대출 승인에서의 편향된 의사결정)를 바탕으로 한 사례 연구는 비윤리적 AI 설계의 사회적 영향을 효과적으로 보여준다.
• 윤리 이론을 기존 강의 모듈에 통합함으로써 윤리적 사고는 기술적 AI 주제와 함께 체계적으로 가르칠 수 있다.
• 켄터키 대학교에서 개발한 전용 AI 윤리 과정은 학생 이수율 향상과 비판적 사고 능력 향상 측면에서 매우 인기 있고 효과적인 것으로 입증되었다.
• 오픈 액세스 강의 웹사이트와 로봇 윤리 전문 교재 등 기존 교육 자료는 새로운 AI 윤리 커리큘럼을 구축하는 데 강력한 기반을 제공한다.
• 윤리의 통합은 단순한 추가 요소가 아니라, 복잡한 사회적 위험에 대응할 수 있는 책임감 있는 AI 전문가를 양성하기 위해 필수적이다.