[논문 리뷰] Phronesis of AI in radiology: Superhuman meets natural stupidity

Judy Wawira Gichoya, Siddhartha Nuthakki외 2명|arXiv (Cornell University)|2018. 03. 27.

Artificial Intelligence in Healthcare and Education참고 문헌 1인용 수 8

한 줄 요약

이 논문은 영상의학 분야에서 '초인적' 인공지능의 개념을 비판하면서, AI 개발에 실천 지혜(phronesis)의 중요성을 주장한다. 인간과 AI의 능력이 상호 보완되어 서로 대체되서는 안 된다고 주장한다. 폐렴 검출에 대한 흉부 X선 영상 연구를 통해 인간과 AI가 협력할 경우 개별적으로 작업할 때보다 더 뛰어난 성능을 내는 것을 입증하며, 자동화 대체가 아닌 인지적 상호보완성을 강조한다.

ABSTRACT

Advances in AI in the last decade have clearly made economists, politicians, journalists, and citizenry in general believe that the machines are coming to take human jobs. We review 'superhuman' AI performance claims in radiology and then provide a self-reflection on our own work in the area in the form of a critical review, a tribute of sorts to McDermotts 1976 paper, asking the field for some self-discipline. Clearly there is an opportunity to replace humans, but there are better opportunities, as we have discovered to fit cognitive abilities of human and non-humans. We performed one of the first studies in radiology to see how human and AI performance can complement and improve each others performance for detecting pneumonia in chest X-rays. We question if there is a practical wisdom or phronesis that we need to demonstrate in AI today as well as in our field. Using this, we articulate what AI as a field has already and probably can in the future learn from Psychology, Cognitive Science, Sociology and Science and Technology Studies.

연구 동기 및 목표

• 인간과 AI의 능력이 상호 보완되어야 한다는 사고방식을 제안함으로써, 현재의 인공지능이 영상의학자들을 대체한다는 일반적인 서사를 도전한다.
• 흉부 X선 영상에서 폐렴을 진단할 때 인간과 AI의 진단 성능이 어떻게 상호 보완적인지 조사한다.
• McDermott의 1976년 논문에서 영감을 얻어, AI 연구에 더 큰 자기 통제를 요구한다.
• 심리학, 인지과학, 사회학, 과학 및 기술 연구 분야의 통찰이 의료 분야의 책임감 있는 인공지능 개발을 어떻게 이끌 수 있는지 탐색한다.

제안 방법

• 흉부 X선 영상에서 폐렴을 진단하는 데 있어 인간 영상의학자와 AI 시스템의 성능을 비교 평가하는 연구를 수행했다.
• 인간과 AI 예측을 조합하여 공동 결론을 도출함으로써 상호보완적 성능을 평가했다.
• McDermott의 1976년 논문에서 영감을 얻은 비판적이고 반성적인 시각을 활용하여, 자동화의 우월성에 대한 분야의 가정을 도전했다.
• 인지과학과 과학 및 기술 연구 분야의 다학제적 시각을 통합하여 영상의학 분야의 인공지능의 윤리적 및 인지적 차원을 프레임화했다.
• '초인적' 성능 주장의 한계를 분석하며, 맥락과 실천적 판단의 중요성을 강조했다.
• AI는 패턴 인식을 담당하고 인간은 맥락적이고 임상적 추론을 기여하는 협업 진단 모델을 제안했다.

실험 결과

연구 질문

• RQ1 흉부 X선 영상에서 폐렴을 진단할 때 인간과 AI 진단 시스템이 함께 일할 경우, 개별적으로 작업할 때보다 더 뛰어난 성능을 낼 수 있는가?
• RQ2 실천 지혜(phronesis)는 의료 영상 분야의 책임감 있고 효과적인 인공지능 설계에 어떤 역할을 하는가?
• RQ3 심리학, 인지과학, 사회학의 통찰은 임상 영상의학 분야에 인공지능을 통합하는 데 어떻게 기여할 수 있는가?
• RQ4 영상의학 분야에서의 '초인적' 인공지능 주장은 임상 의사결정의 복잡성에 대한 오해를 얼마나 반영하고 있는가?
• RQ5 인간 영상의학자가 수행하는 임상 작업에서 AI 시스템이 그들을 대체할 경우, 인지적 및 윤리적 영향은 무엇인가?

주요 결과

• 인간과 AI의 협업은 인간이나 AI가 별도로 작업할 때보다 폐렴 검출 정확도가 뚜렷이 향상됨을 입증했다.
• 연구는 AI가 의료 영상에서 패턴 인식에 뛰어나다는 것을 입증했고, 인간은 맥락적 및 임상적 추론을 기여한다는 것을 확인했다.
• 저자들은 '초인적' 인공지능 성능 주장이 맥락과 불확실성을 고려할 경우 임상적 승리로 이어지지 않는다는 것을 발견했다.
• 실천 지혜(phronesis)는 책임감 있는 인공지능 배포에 필수적이며, 이를 통해 실제 임상 워크플로우에 AI를 더 잘 통합할 수 있다.
• 연구는 인간의 판단, 경험, 윤리적 고려가 과소평가될 경우 AI의 역할을 과도하게 과대평가할 위험을 강조한다.
• 연구는 자동화 대체에서 협업 지능으로의 전환을 촉구하며, AI는 인간 전문성의 초월이 아니라 지원 역할을 해야 한다고 주장한다.