[论文解读] Phronesis of AI in radiology: Superhuman meets natural stupidity

Judy Wawira Gichoya, Siddhartha Nuthakki+2 more|arXiv (Cornell University)|Mar 27, 2018

Artificial Intelligence in Healthcare and Education参考文献 1被引用 8

一句话总结

本文通过倡导在人工智能开发中融入‘实践智慧’（phronesis），批判了放射科领域‘超人类’人工智能的观念，主张人类与人工智能的能力应互补而非相互替代。通过一项关于胸部X光片中肺炎检测的研究，证明了人机协作系统的表现优于单独的人类或人工智能，强调认知协同效应而非自动化替代。

ABSTRACT

Advances in AI in the last decade have clearly made economists, politicians, journalists, and citizenry in general believe that the machines are coming to take human jobs. We review 'superhuman' AI performance claims in radiology and then provide a self-reflection on our own work in the area in the form of a critical review, a tribute of sorts to McDermotts 1976 paper, asking the field for some self-discipline. Clearly there is an opportunity to replace humans, but there are better opportunities, as we have discovered to fit cognitive abilities of human and non-humans. We performed one of the first studies in radiology to see how human and AI performance can complement and improve each others performance for detecting pneumonia in chest X-rays. We question if there is a practical wisdom or phronesis that we need to demonstrate in AI today as well as in our field. Using this, we articulate what AI as a field has already and probably can in the future learn from Psychology, Cognitive Science, Sociology and Science and Technology Studies.

研究动机与目标

• 挑战将人工智能视为放射科医生替代品的主流叙事，主张在人工智能设计中融入实践智慧（phronesis）。
• 研究人类与人工智能在胸部X光片中检测肺炎时的诊断表现如何实现互补。
• 呼吁人工智能研究加强自我约束，借鉴McDermott于1976年对人工智能过度扩张的批判。
• 探讨心理学、认知科学、社会学以及科学与技术研究的洞见，如何指导医学中负责任的人工智能发展。

提出的方法

• 开展对比研究，评估放射科医生与人工智能系统在胸部X光片中检测肺炎的表现。
• 通过整合人类与人工智能的预测结果，评估联合决策的协同表现。
• 采用McDermott于1976年对人工智能的批判为启发，以批判性反思的视角质疑该领域对自动化优越性的假设。
• 整合认知科学与科学和技术研究的跨学科视角，构建放射学中人工智能的伦理与认知维度。
• 分析‘超人类’表现声称在临床人工智能中的局限性，强调语境与实际判断的重要性。
• 提出一种协作诊断模型，其中人工智能负责模式识别，人类则提供情境化与临床推理。

实验结果

研究问题

• RQ1 当人类与人工智能诊断系统在胸部X光片中检测肺炎时协同工作，其表现是否显著优于单独使用人类或人工智能？
• RQ2 实践智慧（phronesis）在设计负责任且高效的人工智能用于医学影像中扮演何种角色？
• RQ3 心理学、认知科学与社会学的洞见如何改善人工智能在临床放射学中的整合？
• RQ4 放射科领域中‘超人类’人工智能声称在多大程度上反映了对临床决策复杂性的误解？
• RQ5 用在孤立任务上表现优于人类的人工智能系统取代放射科医生，其认知与伦理影响是什么？

主要发现

• 人机协作显著提升了肺炎检测的准确性，优于单独的人类或人工智能。
• 研究证明，人工智能在医学影像的模式识别方面表现出色，而人类则贡献情境与临床推理能力。
• 作者发现，人工智能在孤立任务上实现‘超人类’表现，并不等于在考虑语境与不确定性时具备临床优势。
• 实践智慧（phronesis）对于负责任的人工智能部署至关重要，因为它有助于将人工智能更好地整合到现实临床工作流程中。
• 研究强调了在忽视人类判断、临床经验与伦理考量时，过度高估人工智能角色的风险。
• 该研究呼吁从自动化替代转向协作智能，即人工智能应作为人类专业能力的辅助，而非取代。