[論文レビュー] Sociotechnical Challenges of Machine Learning in Healthcare and Social Welfare

Tyler Reinmund, Lars Kunze+1 more|arXiv (Cornell University)|Jan 16, 2026

Artificial Intelligence in Healthcare and Education被引用数 0

ひとこと要約

この論文は、MLを活用したケア経路に沿って11の社会技術的課題を特定し、設計、制約、実践を通じてこれらの課題がどのように出現するかを説明するプロセスモデルを提示します。現場調査、縦断研究のレビュー、および共同設計ワークショップを組み合わせ、ケア環境におけるMLの展開を正確に分析できるようにします。

ABSTRACT

Sociotechnical challenges of machine learning in healthcare and social welfare are mismatches between how a machine learning tool functions and the structure of care practices. While prior research has documented many such issues, existing accounts often attribute them either to designers' limited social understanding or to inherent technical constraints, offering limited support for systematic description and comparison across settings. In this paper, we present a framework for conceptualizing sociotechnical challenges of machine learning grounded in qualitative fieldwork, a review of longitudinal deployment studies, and co-design workshops with healthcare and social welfare practitioners. The framework comprises (1) a categorization of eleven sociotechnical challenges organized along an ML-enabled care pathway, and (2) a process-oriented account of the conditions through which these challenges emerge across design and use. By providing a parsimonious vocabulary and an explanatory lens focused on practice, this work supports more precise analysis of how machine learning tools function and malfunction within real-world care delivery.

研究の動機と目的

• 医療と社会福祉におけるMLツールの使用中に生じる社会技術的課題を特定し分類する。
• 現実のケア実践でMLツールが機能し、誤動作する様子を説明する、簡潔な語彙を開発する。
• 設計と使用を通じてこれらの課題を促進する条件を、プロセス指向で説明する。

提案手法

• Phase 1はTechnologies-in-Practiceに基づき、設計と使用を施設、解釈スキーム、規範を通じて結びつける。
• Phase 2は100時間以上の観察と53回のインタビューを含む転倒予防ML導入の現場調査を実施。
• Phase 3はケア経路全体での22件の縦断的ML展開研究を検討。
• Phase 4は15名の実務家を対象とした5つの共同設計ワークショップを実施し、モデルの妥当性と拡張を図る。

実験結果

リサーチクエスチョン

• RQ1 MLツールが医療および社会福祉のケア経路へ組み込まれたとき、どのような社会技術的課題が出現するか？
• RQ2 設計、制約、実践はこれらの課題を生み出すうえでどのように相互作用するか？
• RQ3 現象を最も効果的に捉え、異なる設定間での分析を可能にする語彙は何か？

主な発見

• MLを活用したケア経路の段階に沿って、11の社会技術的課題を特定。
• 分析上の区別は明確でも、実践では課題が重複することが多い。
• 課題が出現する3経路のプロセスモデルは、設計の決定、制約への対処、スクリプトから外れるの三段階を説明する。
• 現場調査を反映したフレームワークは、単なる技術的失敗を超えたML展開の正確な分析を支援することを目指す。
• ワークショップは、MLツールとの相互作用中に課題が生じるタイミングを区別する新しい次元の妥当性を検証する。