[論文レビュー] Human-Centered Tools for Coping with Imperfect Algorithms during Medical Decision-Making

Carrie J. Cai, Emily Reif+9 more|arXiv (Cornell University)|Feb 8, 2019

Artificial Intelligence in Healthcare and Education被引用数 6

ひとこと要約

本論文では、病理医が医療画像検索における不完全な機械学習アルゴリズムを段階的に改善・適応できる人間中心のツールを導入し、診断の関連性と信頼性を向上させることを目的としている。病理医による評価では、正確性を損なわずに診断の有用性とユーザーの自信が向上した一方で、アルゴリズムの誤りを特定し、モデルの挙動をリアルタイムで探査できるようになった。

ABSTRACT

Machine learning (ML) is increasingly being used in image retrieval systems for medical decision making. One application of ML is to retrieve visually similar medical images from past patients (e.g. tissue from biopsies) to reference when making a medical decision with a new patient. However, no algorithm can perfectly capture an expert's ideal notion of similarity for every case: an image that is algorithmically determined to be similar may not be medically relevant to a doctor's specific diagnostic needs. In this paper, we identified the needs of pathologists when searching for similar images retrieved using a deep learning algorithm, and developed tools that empower users to cope with the search algorithm on-the-fly, communicating what types of similarity are most important at different moments in time. In two evaluations with pathologists, we found that these refinement tools increased the diagnostic utility of images found and increased user trust in the algorithm. The tools were preferred over a traditional interface, without a loss in diagnostic accuracy. We also observed that users adopted new strategies when using refinement tools, re-purposing them to test and understand the underlying algorithm and to disambiguate ML errors from their own errors. Taken together, these findings inform future human-ML collaborative systems for expert decision-making.

研究の動機と目的

• 機械学習アルゴリズムが病理医にとって臨床的に関連する類似画像を効果的に検索するという限界を是正すること。
• 臨床的判断に基づいて、ユーザーが動的にアルゴリズムによる類似性結果を微調整できるインタラクティブなツールを設計すること。
• このようなツールが診断の有用性、信頼性、アルゴリズム意思決定の理解を向上させるかどうかを評価すること。
• 不完全なMLシステムと対話する際、ユーザーがどのように診断戦略を適応させるかを明らかにすること。

提案手法

• 画像検索中にリアルタイムで類似性基準を調整できるインタラクティブな可視化ツールを開発した。
• 臨床的に関連する画像特徴を類似性に反映させるためのフィードバックメカニズムを統合した。
• アルゴリズム的誤りと自身の診断的誤りを区別するのを支援するツールを設計した。
• 臨床で活躍する病理医を対象に2回のユーザースタディを実施し、ツールの使いやすさ、診断の正確性、信頼性を評価した。
• 定性的および定量的分析を用いて、ユーザー行動と意思決定戦略の変化を評価した。
• 解釈可能性技術（例：セマンティックマップ）を適用し、ユーザーがモデルの挙動を理解し、結果を微調整できるように支援した。

実験結果

リサーチクエスチョン

• RQ1 深層学習モデルが生じる不完全な類似性結果に対し、病理医はどのように効果的に対処できるか？
• RQ2 インタラクティブな微調整ツールは、検索結果の診断的有用性をどの程度向上させるか？
• RQ3 微調整ツールの使用は、機械学習アルゴリズムに対するユーザーの信頼をどの程度高めるか？
• RQ4 適応的で不完全なアルゴリズムと対話する際、病理医はどのような新しい診断戦略を採用するか？
• RQ5 微調整ツールは、アルゴリズム的誤りと臨床的誤りを区別するのを支援できるか？

主な発見

• 微調整ツールは、標準的なアルゴリズム的結果と比較して、検索結果の診断的有用性を顕著に向上させた。
• ユーザーは、アルゴリズムが不完全な結果を出しても、インタラクティブツールを使用することでアルゴリズムに対する信頼を高めたと報告した。
• 診断の正確性に損なわれることなく、ユーザーは静的インターフェースよりも微調整インターフェースを好んだ。
• ユーザーは、モデルの挙動をテストしたり、アルゴリズム的誤りと臨床的誤りを分離するためのツールを活用するなど、新たな戦略を採用した。
• ツールにより、ユーザーはシステムをモデルの探査に再利用でき、アルゴリズムの限界をより深く理解できるようになった。
• ユーザーは分野の専門知識に基づいて出力を能動的に調整する、より協働的な人間-AIワークフローを実現した。