[논문 리뷰] Role of Artificial Intelligence, Clinicians & Policymakers in Clinical Decision Making: A Systems Viewpoint

Avishek Choudhury, Onur Asan외 1명|arXiv (Cornell University)|2019. 08. 30.

Complex Systems and Decision Making인용 수 2

한 줄 요약

이 논문은 임상 결정 과정에서 인공지능, 임상의사 및 정책결정자 간의 상호의존적 역할을 분석하기 위해 시스템 사고를 적용한다. 의료는 AI, 제공자 및 규제 기관이 상호 동적으로 영향을 주고받는 복잡하고 상호의존적인 시스템이며, 환자 치료와 의사결정 품질 향상을 위해 통합적이고 체계적인 접근이 필요하다고 주장한다.

ABSTRACT

“What is a system?” Is one of those questions that is yet not clear to most individuals in this world. A system is an assemblage of interacting, interrelated and interdependent components forming a complex and integrated whole with an unambiguous and common goal. This paper emphasizes on the fact that all components of a complex system are inter-related and interdependent in some way and the behavior of that system depends on these interdependencies. A health care system as portrayed in this article is widespread and complex. This encompasses not only “hospitals” but also governing bodies like the FDA, technologies such as AI, biomedical devices, Cloud computing and many more. The interactions between all these components govern the behavior and existence of the overall healthcare system. In this paper, we focus on the interaction of artificial intelligence, care providers and policymakers and analyze using systems thinking approach, their impact on clinical decision making.

연구 동기 및 목표

• 인공지능, 임상의사 및 정책결정자가 임상 결정 과정에서 상호의존적으로 작용하는 방식을 분석한다.
• 의료 워크플로우에 AI를 통합하는 데서 발생하는 체계적 이해 부족 문제를 다룬다.
• 시스템 구성 요소 간의 상호의존성이 임상 결정 결과에 어떻게 영향을 주는지 강조한다.
• AI 통합 의료 시스템 설계에 있어 체계적 시각의 중요성을 주장한다.
• 시스템 전체 성능 향상과 환자 안전 확보를 위한 핵심 개선 지점(레버리지 포인트)을 규명한다.

제안 방법

• 의료를 상호 연결된 구성 요소의 네트워크로 모델링하기 위해 시스템 사고 프레임워크를 채택한다.
• 인공지능 기술, 임상 종사자 및 규제 기관(예: FDA) 간의 상호작용을 분석한다.
• 의료 시스템 내의 피드백 루프, 의존성 및 탄생하는 행동 양상에 집중한다.
• 일부 구성 요소의 변화가 전체 시스템에 미치는 영향을 설명하기 위해 개념적 모델링을 사용한다.
• 개별 구성 요소의 성능보다는 비선형 관계와 체계 수준의 결과를 강조한다.
• 건강 정보학, 정책 과학 및 임상 실무에서의 통찰을 통합하여 통합된 체계적 시각을 구축한다.

실험 결과

연구 질문

• RQ1 인공지능, 임상의사 및 정책결정자가 더 넓은 의료 시스템 내에서 어떻게 상호작용하는가?
• RQ2 AI 통합 환경에서 임상 결정 과정을 형성하는 주요 상호의존성은 무엇인가?
• RQ3 체계 수준의 역학이 임상 결정의 효과성과 안전성에 어떻게 영향을 주는가?
• RQ4 피드백 루프와 상호의존성은 의료 결과에 어떻게 기여하는가?
• RQ5 임상 결정 과정에서 시스템 성능 향상을 위한 핵심 개선 지점은 어디인가?

주요 결과

• 의료 시스템은 인공지능, 임상의사 및 정책결정자가 동적으로 연결된 복잡하고 상호의존적인 네트워크이다.
• 임상 결정 과정을 최적화하기 위해서는 개별 구성 요소를 고립적으로 접근하는 데서는 불가능하다.
• 체계적 상호의존성이 임상 결정 과정의 행동과 결과에 중대한 영향을 미친다.
• FDA와 같은 규제 기관은 인공지능의 배치와 시스템 안정성에 결정적인 역할을 한다.
• 시스템 내에서 탄생하는 행동은 개별 구성 요소의 성능만으로는 설명되지 않으며, 상호작용에서 유래한다.
• 체계적 시각은 의사결정 품질 향상을 위해 기술적 발전 외에도 전반적인 시스템 조율이 필요하다는 점을 드러낸다.