[論文レビュー] Phronesis of AI in radiology: Superhuman meets natural stupidity

Judy Wawira Gichoya, Siddhartha Nuthakki+2 more|arXiv (Cornell University)|Mar 27, 2018

Artificial Intelligence in Healthcare and Education参考文献 1被引用数 8

ひとこと要約

この論文は、放射線学における「スーパー・ヒューマン」AIの概念を検証し、AI開発における実践的知恵（phronesis）の重要性を主張している。人間とAIの能力が互いに補完し合うべきであるとし、代替ではなく協働のあり方を提唱する。チ胸X線における肺炎検出に関する研究を通じて、人間とAIの共同作業が単独での性能を上回ることを示し、自動化による置き換えではなく認知的連携の重要性を強調している。

ABSTRACT

Advances in AI in the last decade have clearly made economists, politicians, journalists, and citizenry in general believe that the machines are coming to take human jobs. We review 'superhuman' AI performance claims in radiology and then provide a self-reflection on our own work in the area in the form of a critical review, a tribute of sorts to McDermotts 1976 paper, asking the field for some self-discipline. Clearly there is an opportunity to replace humans, but there are better opportunities, as we have discovered to fit cognitive abilities of human and non-humans. We performed one of the first studies in radiology to see how human and AI performance can complement and improve each others performance for detecting pneumonia in chest X-rays. We question if there is a practical wisdom or phronesis that we need to demonstrate in AI today as well as in our field. Using this, we articulate what AI as a field has already and probably can in the future learn from Psychology, Cognitive Science, Sociology and Science and Technology Studies.

研究の動機と目的

• 放射線科医の代替としてのAIという一般的な物語に反論し、AI設計における実践的知恵（phronesis）の重要性を主張すること。
• チ胸X線における肺炎検出において、人間とAIの診断性能がどのように相乗的に作用し合うかを調査すること。
• McDermottの1976年のAI過剰性への批判にインspされ、AI研究における自己規律の強化を呼びかけること。
• 心理学、認知科学、社会学、科学技術研究（Science and Technology Studies）の知見が、医療分野における責任あるAI開発をどのように導くかを探索すること。

提案手法

• チ胸X線における肺炎検出において、放射線科医とAIシステムの性能を比較する研究を実施した。
• 人間とAIの予測を統合することで共同意思決定を評価し、相乗的性能を分析した。
• McDermottの1976年のAI批判にインspされた批判的・自己反省的視点を用い、自動化の優位性に関する分野の前提を疑問視した。
• 認知科学および科学技術研究の視点を統合し、放射線学におけるAIの倫理的・認知的側面を枠組みづけた。
• 文脈や不確実性を考慮した場合、『スーパー・ヒューマン』性能の主張が臨床的優位性に直結しないことを強調し、その限界を分析した。
• AIがパターン認識を担い、人間が文脈的・臨床的推論を提供する共同診断のモデルを提唱した。

実験結果

リサーチクエスチョン

• RQ1 人間とAIの診断システムが、チ胸X線における肺炎検出において、単独で作業するよりも協働することでより高い性能を達成できるか？
• RQ2 実践的知恵（phronesis）は、責任あるで効果的な医療画像用AIの設計において、どのような役割を果たすか？
• RQ3 心理学、認知科学、社会学の知見は、臨床的放射線学におけるAI統合をどのように改善できるか？
• RQ4 放射線学における『スーパー・ヒューマン』AIの主張は、臨床的意思決定の複雑さを誤解していると見なされる程度はどの程度か？
• RQ5 人間の放射線科医が、孤立したタスクでそれを上回るAIシステムに置き換えられることの、認知的および倫理的影響は何か？

主な発見

• 人間とAIの協働は、単独での人間またはAIの性能よりも、肺炎検出の正確性を顕著に向上させた。
• 研究では、AIが医学画像におけるパターン認識に優れている一方で、人間は文脈的・臨床的推論を提供していることが明らかになった。
• 著者らは、孤立したタスクにおける『スーパー・ヒューマン』AIの性能が、文脈や不確実性を考慮した場合に臨床的優位性に直結しないことを発見した。
• 実践的知恵（phronesis）は、責任あるAIの展開に不可欠であり、AIを現実の臨床ワークフローに効果的に統合する手助けとなる。
• 研究は、人間の判断、経験、倫理的配慮が軽視される場合に、AIの役割を過大評価するリスクを浮き彫りにした。
• 本研究は、自動化による置き換えから、AIが人間の専門性を補完する協働知能への転換を呼びかけている。