[논문 리뷰] Readying Medical Students for Medical AI: The Need to Embed AI Ethics Education

Thomas P. Quinn, Simon Coghlan|arXiv (Cornell University)|2021. 09. 07.

Artificial Intelligence in Healthcare and Education인용 수 13

한 줄 요약

이 논문은 기존 생명윤리 또는 의료윤리 과정에 AI 관련 윤리 문제를 통합하여 의예과 학생들에게 임상적 수준의 의료AI 윤리 역량을 기르는 데 초점을 맞춘 점진적이고 커리큘럼 통합형 접근인 '통합형 의료AI 윤리 교육 프레임워크'를 제안한다. 이 프레임워크는 기존 커리큘럼을 대대적으로 재편하지 않고도 미래 의료진이 임상적 응용에서 AI의 위험과 이점을 이해하고, 이를 적절히 식별하고 소통할 수 있도록 효율적으로 준비시킬 수 있으며, 오용, 부적용, 남용으로 인한 윤리적 피해를 방지하는 데 기여한다.

ABSTRACT

Medical students will almost inevitably encounter powerful medical AI systems early in their careers. Yet, contemporary medical education does not adequately equip students with the basic clinical proficiency in medical AI needed to use these tools safely and effectively. Education reform is urgently needed, but not easily implemented, largely due to an already jam-packed medical curricula. In this article, we propose an education reform framework as an effective and efficient solution, which we call the Embedded AI Ethics Education Framework. Unlike other calls for education reform to accommodate AI teaching that are more radical in scope, our framework is modest and incremental. It leverages existing bioethics or medical ethics curricula to develop and deliver content on the ethical issues associated with medical AI, especially the harms of technology misuse, disuse, and abuse that affect the risk-benefit analyses at the heart of healthcare. In doing so, the framework provides a simple tool for going beyond the "What?" and the "Why?" of medical AI ethics education, to answer the "How?", giving universities, course directors, and/or professors a broad road-map for equipping their students with the necessary clinical proficiency in medical AI.

연구 동기 및 목표

• 의료 분야에서 AI의 통합이 증가함에 따라 의료학생들이 의료AI에 대한 임상적 숙련도를 갖추는 데 점점 더 필요한 상황를 고려해, 의료학생들이 의료AI에 대한 임상적 숙련도를 갖추는 데 필요한 필요성을 해결하기 위해.
• 의료 분야에서 AI가 널리 배포되고 있음에도 불구하고, 구조적이고 실용적인 AI 윤리 교육이 부족한 현재 의료교육의 격차를 규명하기 위해.
• 기존 커리큘럼을 대대적으로 재편하는 것을 주장하기보다는, 기존 생명윤리 또는 의료윤리 과정에 AI 윤리를 통합하는 것이 가능하고 효율적인 해결책을 제안하기 위해.
• 의료교육자들이 학생들에게 임상 환경에서 AI의 위험과 이점을 윤리적으로 평가하고 소통하는 방법을 가르칠 수 있도록 지원하기 위해.
• 특히 고위험 의료 적용 분야에서의 신속한 기술 발전에 직면한 의료학생들이 신기술에 대해 비판적 윤리적 사고력을 기르는 데 기여하기 위해.

제안 방법

• 4단계 프레임워크 제안: (1) 의료AI 윤리 문제를 바탕으로 새로운 AI 윤리 수업을 기획하고, (2) 이를 기존 생명윤리 또는 의료윤리 수업과 연계하며, (3) 신규 내용을 가르칠 수 있도록 기초 기술 지식을 갖춘 교수가 교육을 이수하도록 훈련하고, (4) 학생들에게 기본 기술 및 의료 지식과 함께 내용을 제공한다.
• 단일 AI 과정이나 대규모 커리큘럼 재편 없이도 기존 의료윤리 모듈 내에 AI 윤리 교육을 통합함으로써, 전통적인 교육 구조를 유지하면서도 효과적으로 윤리 교육을 통합한다.
• 실제 사례 연구를 활용하여 AI 오용(과도한 신뢰), 부적용(부족한 신뢰), 악용(기관의 열악한 구현)과 같은 윤리적 문제를 구체화한다.
• 임상적 AI 응용 분야에서의 윤리적 위험-이점 분석에 초점을 맞추며, 기술의 오용, 부적용, 악용으로 인한 피해를 중심으로 다룬다.
• 디오니즘, 후생주의, 덕목 윤리, 돌봄 윤리와 같은 고전적 윤리 틀을 활용하여 의료 분야의 AI 딜레마를 분석한다.
• 의료학생이 임상적 응용에서 AI 도구를 이해하고 윤리적으로 평가하기 위해 깊이 있는 프로그래밍이나 머신러닝 전문 지식이 필요로 하지 않으며, 단지 중간 정도의 기술 지식만으로도 충분하다는 점을 강조한다.

실험 결과

연구 질문

• RQ1 의료대학은 기존 커리큘럼을 대대적으로 뒤바꾸지 않고도, 임상적 수준의 의료AI 역량을 효과적이고 효율적으로 통합할 수 있는가?
• RQ2 의료AI에서의 윤리적 문제—특히 오용, 부적용, 악용—중에서 환자 안전과 임상적 의사결정에 가장 심각한 영향을 미치는 것은 무엇인가?
• RQ3 기존 생명윤리 또는 의료윤리 과정을 얼마나 수정하면 AI 윤리를 효과적으로 통합할 수 있으며, 추가적인 대규모 교사 훈련이나 커리큘럼 재설계가 필요로 하는가?
• RQ4 의료학생이 임상 환경에서 AI의 윤리적 평가 및 소통을 위해 필요한 기술-의료 지식의 수준은 어느 정도인가?
• RQ5 AI 윤리 교육은 신속하게 변화하는 고위험 기술 혁신에 직면한 의료학생들이 비판적 사고력과 윤리적 사고력을 기르는 데 어떻게 기여할 수 있는가?

주요 결과

• 통합형 의료AI 윤리 교육 프레임워크는 기존 생명윤리 커리큘럼을 활용함으로써 의료교육에 AI 윤리를 통합하는 실현 가능하고 점진적인 길을 제공한다.
• 이 프레임워크는 깊이 있는 기술 교육이 아닌, 위험과 이점에 대한 집중적인 윤리적 사고력과 이해를 통해 의료학생이 의료AI에 대한 임상적 숙련도를 달성하도록 한다.
• 오용, 부적용, 악용으로 인한 윤리적 피해에 초점을 맞추므로, 의료 실천의 핵심인 위험-이점 분석에 직접적으로 대응한다.
• 이 접근은 커리큘럼 대대적 재편을 피하고 기존의 교육 구조와 내용을 기반으로 하므로 효율적이다.
• 교수진은 AI 윤리 교육을 위해 필요한 기초 기술-의료 지식에 집중한 훈련을 통해 효과적으로 준비될 수 있으며, 이는 교육의 정확성과 일관성을 유지한다.
• 이 프레임워크는 다른 보건 전문직에도 적용 가능하며, 의료 분야에서 AI의 복잡성을 윤리적으로 이해하고 대처할 수 있는 윤리적 역량을 갖춘 전문가를 육성하는 데 기여한다.