[논문 리뷰] Sociotechnical Challenges of Machine Learning in Healthcare and Social Welfare

Tyler Reinmund, Lars Kunze외 1명|arXiv (Cornell University)|2026. 01. 16.

Artificial Intelligence in Healthcare and Education인용 수 0

한 줄 요약

이 논문은 ML 기반 진료 경로를 따라 11개의 사회기술적 도전과 이를 설계, 제약, 실제를 통해 어떻게 나타나는지 설명하는 프로세스 모델을 제시한다. 현장 연구, 장기 연구 검토, 공동 설계 워크숍을 결합하여 care 설정에서 ML 배치를 정밀하게 분석하도록 한다.

ABSTRACT

Sociotechnical challenges of machine learning in healthcare and social welfare are mismatches between how a machine learning tool functions and the structure of care practices. While prior research has documented many such issues, existing accounts often attribute them either to designers' limited social understanding or to inherent technical constraints, offering limited support for systematic description and comparison across settings. In this paper, we present a framework for conceptualizing sociotechnical challenges of machine learning grounded in qualitative fieldwork, a review of longitudinal deployment studies, and co-design workshops with healthcare and social welfare practitioners. The framework comprises (1) a categorization of eleven sociotechnical challenges organized along an ML-enabled care pathway, and (2) a process-oriented account of the conditions through which these challenges emerge across design and use. By providing a parsimonious vocabulary and an explanatory lens focused on practice, this work supports more precise analysis of how machine learning tools function and malfunction within real-world care delivery.

연구 동기 및 목표

• 보건의료 및 사회복지 분야에서 ML 도구 사용 중 발생하는 사회기술적 도전 과제를 식별하고 분류한다.
• 현실 세계의 케어 현장에서 ML 도구가 어떻게 작동하고 오작동하는지 설명할 수 있는 간결한 어휘를 개발한다.
• 설계와 사용 전반에 걸쳐 이러한 도전을 촉진하는 조건에 대한 프로세스 지향적 설명을 제시한다.

제안 방법

• 1단계는 기술-실천(Technologies-in-Practice)을 프레임워크의 기반으로 삼아 시설, 해석 체계, 규범을 통해 설계와 사용을 연결한다.
• 2단계는 낙상예방 ML 배치에서 100시간이 넘는 관찰과 53건의 인터뷰를 포함한 현장 조사를 수행한다.
• 3단계는 케어 경로 전반의 22건의 종단 ML 배치 연구를 검토한다.
• 4단계는 15명의 실무자를 대상으로 5회의 공동 설계 워크숍을 진행하여 모델을 검증하고 확장한다.

실험 결과

연구 질문

• RQ1 ML 도구가 보건의료 및 사회복지 케어 경로에 통합될 때 어떤 사회기술적 도전이 나타나는가?
• RQ2 설계, 제약, 실무가 이러한 도전을 어떻게 상호작용하여 만들어 내는가?
• RQ3 현상이 교차 맥락 분석을 가능하게 하도록 가장 적합한 어휘는 무엇인가?

주요 결과

• ML-활용 케어 경로의 단계에 따라 정렬된 11개의 사회기술적 도전을 확인했다.
• 도전들이 분석적 구분이 명확함에도 불구하고 실무상 종종 겹친다.
• 도전이 어떻게 나타나는지 설명하는 세 경로 프로세스 모델: 설계를 결정하고, 제약에 맞서고, 대본에서 벗어나기.
• 현장 연구에 기반한 프레임워크는 단순한 기술 실패를 넘어 ML 배치의 정밀한 분석을 지원하는 것을 목표로 한다.
• 워크숍은 ML 도구 상호작용 중 도전이 언제 나타나는지를 구분하는 차원을 검증한다.