[논문 리뷰] The promise and perils of AI in medicine

Robert Sparrow, Joshua Hatherley|Monash University Research Portal (Monash University)|2025. 05. 11.

Artificial Intelligence in Healthcare and Education인용 수 9

한 줄 요약

의학에서의 AI에 대한 기대와 위험에 대한 조사와 비판적 평가로, 연구, 진단, 행정, 치료의 인간화, 프라이버시, 편향, 거버넌스를 다룬다.

ABSTRACT

What does Artificial Intelligence (AI) have to contribute to health care? And what should we be looking out for if we are worried about its risks? In this paper we offer a survey, and initial evaluation, of hopes and fears about the applications of artificial intelligence in medicine. AI clearly has enormous potential as a research tool, in genomics and public health especially, as well as a diagnostic aid. It's also highly likely to impact on the organisational and business practices of healthcare systems in ways that are perhaps under-appreciated. Enthusiasts for AI have held out the prospect that it will free physicians up to spend more time attending to what really matters to them and their patients. We will argue that this claim depends upon implausible assumptions about the institutional and economic imperatives operating in contemporary healthcare settings. We will also highlight important concerns about privacy, surveillance, and bias in big data, as well as the risks of over trust in machines, the challenges of transparency, the deskilling of healthcare practitioners, the way AI reframes healthcare, and the implications of AI for the distribution of power in healthcare institutions. We will suggest that two questions, in particular, are deserving of further attention from philosophers and bioethicists. What does care look like when one is dealing with data as much as people? And, what weight should we give to the advice of machines in our own deliberations about medical decisions?

연구 동기 및 목표

• 의학 연구, 진단, 행정 분야에서 AI의 잠재적 이점을 평가한다.
• 의료 분야에서 AI와 관련된 윤리적, 정치적, 사회적 위험을 확인한다.
• AI가 환자 관리, 의사 역할, 의료 기관에 어떻게 영향을 미칠 수 있는지 조사한다.
• 데이터 중심의 치료와 의학적 의사결정에서 기계의 지도가 가져오는 문제에 대해 철학자와 생명윤리학자가 다루어야 할 질문을 논의한다.

제안 방법

• 연구, 진단, 행정 영역에 걸친 의학 분야의 AI에 관한 기존 문헌에 대해 비판적 고찰을 수행한다.
• 의료 분야의 AI 시스템과 관련된 윤리성, 프라이버시, 편향, 설명가능성 문제를 분석한다.
• 의료 기관 내 신뢰, 책임, 권력 분배의 함의를 논의한다.
• 의학에 AI를 통합하는 데 신중하고 철학적으로 고찰된 접근을 제안한다.

실험 결과

연구 질문

• RQ1 의학 연구, 진단, 행정에서 AI의 주요 약속은 무엇인가?
• RQ2 프라이버시, 감시, 편향, 설명가능성과 관련하여 AI 기반 의학에서 어떤 위험과 윤리적 우려가 제기되는가?
• RQ3 AI가 의료 현장의 신뢰, 의사의 숙련 저하, 시스템의 취약성, 그리고 권력 분배에 어떻게 영향을 미칠 수 있는가?
• RQ4 데이터 중심의 치료와 기계가 영향을 미치는 의사결정에 대해 철학자와 생명윤리학자들이 우선적으로 다뤄야 할 질문은 무엇인가?

주요 결과

• AI는 유전체학, 약물 발견, 그리고 EHRs의 데이터 마이닝을 통해 의학 연구를 발전시킬 잠재력을 갖고 있다.
• AI는 진단 보조에서 특히 의료 영상 분야에서 가능성을 보이고 있지만 임상 검증은 제한적이고 종종 방법론적으로 약하다.
• AI는 의료 행정과 자원 배분을 개선할 수 있지만, 통제의 중앙집중화로 이어지고 환자 경험에 영향을 미칠 수 있다.
• 대규모 데이터 수집과 재식별 위험의 가능성으로 인해 AI와 함께 프라이버시 및 감시 문제가 심화된다.
• 훈련 데이터의 편향은 인종, 성별, 계층에 걸친 건강 불평등을 영속시키거나 악화시킬 수 있다.
• 설명가능성의 한계는 환자 자율성, 고지된 동의, 그리고 정당화 가능한 의학적 의사결정에 대한 문제를 제기한다.