[논문 리뷰] Generative Artificial Intelligence in Healthcare: Ethical Considerations and Assessment Checklist

Yilin Ning, Salinelat Teixayavong외 15명|arXiv (Cornell University)|2023. 11. 02.

Artificial Intelligence in Healthcare and Education인용 수 7

한 줄 요약

이 논문은 생성형 AI(GenAI)의 윤리적 평가 체크리스트를 제안한다. 이 체크리스트는 기존 윤리적 논의에 대한 범위 검토를 통해 개발되었으며, 투명한 문서화 및 동료 검토 및 제품 개발에의 통합을 가능하게 하여, 텍스트 생성에서부터 합성 데이터 생성에 이르기까지 GenAI 응용 분야에서의 윤리적 감시 부족 문제를 해결한다.

ABSTRACT

The widespread use of ChatGPT and other emerging technology powered by generative artificial intelligence (GenAI) has drawn much attention to potential ethical issues, especially in high-stakes applications such as healthcare, but ethical discussions are yet to translate into operationalisable solutions. Furthermore, ongoing ethical discussions often neglect other types of GenAI that have been used to synthesise data (e.g., images) for research and practical purposes, which resolved some ethical issues and exposed others. We conduct a scoping review of ethical discussions on GenAI in healthcare to comprehensively analyse gaps in the current research, and further propose to reduce the gaps by developing a checklist for comprehensive assessment and transparent documentation of ethical discussions in GenAI research. The checklist can be readily integrated into the current peer review and publication system to enhance GenAI research, and may be used for ethics-related disclosures for GenAI-powered products, healthcare applications of such products and beyond.

연구 동기 및 목표

• 생성형 AI의 의료 응용 분야와 관련된 윤리적 과제를 특정하고 체계화하는 것. 이는 대규모 언어 모델과 같은 새로운 응용 분야뿐 아니라 합성 데이터 생성과 같은 기존 사용 사례를 포함한다.
• 이론적 윤리 논의와 실질적이고 실행 가능한 솔루션 사이의 격차를 해소하는 것. 이는 GenAI 연구 및 구현 과정에서의 실천적 접근을 위한 것이다.
• GenAI 연구 및 응용 분야에서 윤리적 고려 사항을 문서화하기 위한 표준화되고 실용적인 체크리스트를 개발하는 것.
• 더 나은 책임감과 투명성 확보를 위해 기존의 동료 검토 및 규제 프로세스에 통합을 지원하는 것.
• 텍스트 기반 GenAI를 초월하여 영상 생성과 같은 연구 및 임상 용도의 데이터 융합 응용 분야까지 윤리적 감시를 확장하는 것.

제안 방법

• 생성형 AI의 의료 응용 분야에 대한 윤리적 논의에 대한 범위 검토를 수행하여 기존의 우려 사항을 맵핑하고 주제적 격차를 식별하는 것.
• 다양한 GenAI 응용 분야에서 개인정보 보호, 편향, 투명성, 책임성, 데이터 무결성 등의 영역으로 윤리적 문제를 분류하는 것.
• 식별된 윤리적 영역에 기반하여 구조화된 체크리스트를 설계하고, 연구 보고 및 제품 개발에 활용 가능하도록 맞춤화하는 것.
• 기존의 연구 및 임상 검토 프레임워크와 일치시켜 동료 검토 및 규제 기준과의 호환성을 확보하는 것.
• 대규모 언어 모델 및 합성 데이터 생성을 포함한 다양한 GenAI 사용 사례를 체크리스트의 범위에 통합하는 것.
• 체크리스트를 논문에 의무적인 윤리적 공개 도구로 제안하는 것.

실험 결과

연구 질문

• RQ1 다양한 유형의 GenAI 응용 분야에서 생성형 AI의 주요 윤리적 과제는 무엇인가?
• RQ2 현재 GenAI 연구에서 윤리적 논의는 어떻게 실질적이고 실행 가능한 실천으로 이어지지 못하는가?
• RQ3 합성 의료 데이터 생성을 위해 GenAI를 사용할 경우의 윤리적 함의는 무엇이며, 텍스트 기반 GenAI와의 차이는 무엇인가?
• RQ4 표준화된 평가 도구는 GenAI 연구 및 임상 현장에서의 투명성과 책임감을 어떻게 향상시킬 수 있는가?
• RQ5 제안된 체크리스트는 기존의 동료 검토 및 규제 체계에 어떻게 통합될 수 있는가?

주요 결과

• 범위 검토 결과, 특히 합성 데이터 생성 분야에서 윤리적 논의의 심각한 격차가 드러났다. 이는 일부 문제(예: 데이터 부족)를 해결하지만, 편향 전파와 같은 새로운 위험을 야기한다.
• GenAI의 윤리적 과제는 개인정보 보호, 알고리즘 편향, 모델 해석 가능성, 결정에 대한 책임성 등 여러 영역을 포함한다.
• 제안된 체크리스트는 GenAI 연구 및 응용의 전 단계에서 윤리적 고려 사항을 문서화하기 위한 체계적인 프레임워크를 제공한다.
• 체크리스트는 학술 연구에서의 체계적 윤리 공개를 가능하게 하기 위해 동료 검토 및 출판 프로세스에 통합될 수 있도록 설계되었다.
• 이 도구는 연구 분야뿐 아니라 GenAI 기반 의료 제품의 개발 및 구현 단계에서도 투명성을 지원한다.
• 체크리스트는 새로운 GenAI 응용 분야(예: LLM)와 기존 응용 분야(예: 합성 영상 생성)를 모두 다루어 광범위한 적용 가능성을 확보한다.