[논문 리뷰] FUTURE-AI: Guiding Principles and Consensus Recommendations for Trustworthy Artificial Intelligence in Medical Imaging

Karim Lekadir, Richard Osuala외 14명|arXiv (Cornell University)|2021. 09. 20.

Artificial Intelligence in Healthcare and Education참고 문헌 168인용 수 12

한 줄 요약

FUTURE-AI는 의료 영상 분야를 비롯한 의료 분야에서 신뢰할 수 있고 구현 가능한 인공지능을 위한 종합적이고 국제적으로 인정받는 지침을 제시한다. 100명이 넘는 전문가들이 참여한 이 지침은 투명성, 공정성, 임상 유효성과 같은 10개의 핵심 원칙을 수립하며, 윤리적이고 안전하며 효과적인 인공지능 통합을 보장하기 위한 실행 가능한 권고사항을 제공한다.

ABSTRACT

The recent advancements in artificial intelligence (AI) combined with the extensive amount of data generated by today's clinical systems, has led to the development of imaging AI solutions across the whole value chain of medical imaging, including image reconstruction, medical image segmentation, image-based diagnosis and treatment planning. Notwithstanding the successes and future potential of AI in medical imaging, many stakeholders are concerned of the potential risks and ethical implications of imaging AI solutions, which are perceived as complex, opaque, and difficult to comprehend, utilise, and trust in critical clinical applications. Addressing these concerns and risks, the FUTURE-AI framework has been proposed, which, sourced from a global multi-domain expert consensus, comprises guiding principles for increased trust, safety, and adoption for AI in healthcare. In this paper, we transform the general FUTURE-AI healthcare principles to a concise and specific AI implementation guide tailored to the needs of the medical imaging community. To this end, we carefully assess each building block of the FUTURE-AI framework consisting of (i) Fairness, (ii) Universality, (iii) Traceability, (iv) Usability, (v) Robustness and (vi) Explainability, and respectively define concrete best practices based on accumulated AI implementation experiences from five large European projects on AI in Health Imaging. We accompany our concrete step-by-step medical imaging development guide with a practical AI solution maturity checklist, thus enabling AI development teams to design, evaluate, maintain, and deploy technically, clinically and ethically trustworthy imaging AI solutions into clinical practice.

연구 동기 및 목표

• 의료 영상 및 의료 분야에서의 인공지능 배포 위험이 증가함에 따라 표준화되고 신뢰할 수 있는 인공지능이 필요한 점을 해결하기 위해.
• 배포 이전 및 이후에 모두 안전하고 공정하며 임상적으로 효과적인 인공지능 시스템을 확보하기 위해 공모 기반의 프레임워크를 수립하기 위해.
• 개발자, 임상의, 규제 기관, 의료 기관을 위한 실행 가능하고 근거 기반의 권고사항을 제공하기 위해.
• 의료 영상에 그치지 않고 일반적인 의료 분야의 인공지능 응용 분야로 확장하여 광범위한 적용 가능성과 확장성을 보장하기 위해.
• 과학적 및 의료 분야의 다양한 전문가들이 참여한 국제적 협력을 통해 글로벌 일치를 촉진하기 위해.

제안 방법

• FUTURE-AI 지침은 의료 및 기술 배경이 다양한 100명이 넘는 국제 전문가들이 참여한 체계적이고 다단계의 합의 과정을 통해 개발되었다.
• 핵심 원칙은 기존의 윤리적 프레임워크와 임상 안전 기준에서 유래되었으며, 의료 분야의 인공지능 특유의 과제에 맞게 조정되었다.
• 감사 가능성과 신뢰를 지원하기 위해 데이터, 모델 개발 및 의사결정 과정의 투명성을 강조한다.
• 임상 유효성 요구사항을 포함하여 실제 환경에서의 성능 평가 및 배포 후 지속적인 모니터링을 포함한다.
• 책임성 확보를 위해 이해관계자 참여, 위험 완화, 거버넌스 구조에 대한 권고사항을 포함한다.
• 최종 지침은 최신 전문가 의견과 확장된 범위를 반영한 업데이트된 arXiv 프리프린트(arXiv:2309.12325)로 출판되었다.

실험 결과

연구 질문

• RQ1 의료 영상 분야의 인공지능 시스템은 임상 안전성, 공정성, 투명성을 확보하기 위해 어떻게 설계하고 구현할 수 있는가?
• RQ2 다양한 의료 환경에서 신뢰할 수 있고 구현 가능한 인공지능을 구축하기 위해 필수적인 핵심 원칙은 무엇인가?
• RQ3 의료 분야의 인공지능에 대한 윤리적 및 기술적 기준에 대해 국제적 합의를 어떻게 이룰 수 있는가?
• RQ4 임상 배포 후 인공지능 시스템의 지속적인 모니터링과 책임성은 어떤 메커니즘으로 보장할 수 있는가?
• RQ5 인공지능 개발은 임상 워크플로우와 환자 중심의 결과에 어떻게 맞출 수 있는가?

주요 결과

• FUTURE-AI 지침은 책임성, 설명 가능성, 임상 유효성과 같은 10개의 기초 원칙을 설정하여 의료 분야에서의 신뢰할 수 있는 인공지능을 확보한다.
• 이 지침은 의학, 윤리학, 공학, 규제 분야의 100명이 넘는 국제 전문가들이 참여한 철저하고 포괄적인 과정을 통해 개발되었다.
• 이 프레임워크는 의료 영상에 그치지 않고 모든 의료 분야의 인공지능 응용 분야에 적용 가능하여 일반화 가능성과 영향력을 높였다.
• 업데이트된 버전(arXiv:2309.12325)은 위험 관리, 데이터 품질, 배포 후 모니터링에 대한 확장된 권고사항을 포함하고 있다.
• 이 지침은 개발자, 규제 기관, 의료 제공자들이 윤리적이고 안전한 인공지능 배포를 보장하기 위한 표준화된 참고 자료로 기능한다.
• 합의 과정을 통해 글로벌 관련성과 다양한 의료 체계 간의 규제 일치를 지원한다.