[논문 리뷰] Organizational Governance of Emerging Technologies: AI Adoption in Healthcare

Jee Young Kim, William Boag외 14명|arXiv (Cornell University)|2023. 04. 25.

Electronic Health Records Systems인용 수 5

한 줄 요약

이 논문은 미국 의료 시스템의 인공지능 조직 거버넌스에서 8개의 핵심 의사결정 포인트를 특정하기 위해 89명의 전문가에 대한 정성적 분석과 의료 기관 리더들을 대상으로 한 사용성 테스트를 수행하였다. 이는 임상적, 윤리적, 운영적 현실과 일치하는 기관 프로세스를 정렬함으로써 안전하고 공정하며 효과적인 AI 도입을 향상시키기 위한 체계적 프레임워크를 제안한다.

ABSTRACT

Private and public sector structures and norms refine how emerging technology is used in practice. In healthcare, despite a proliferation of AI adoption, the organizational governance surrounding its use and integration is often poorly understood. What the Health AI Partnership (HAIP) aims to do in this research is to better define the requirements for adequate organizational governance of AI systems in healthcare settings and support health system leaders to make more informed decisions around AI adoption. To work towards this understanding, we first identify how the standards for the AI adoption in healthcare may be designed to be used easily and efficiently. Then, we map out the precise decision points involved in the practical institutional adoption of AI technology within specific health systems. Practically, we achieve this through a multi-organizational collaboration with leaders from major health systems across the United States and key informants from related fields. Working with the consultancy IDEO [dot] org, we were able to conduct usability-testing sessions with healthcare and AI ethics professionals. Usability analysis revealed a prototype structured around mock key decision points that align with how organizational leaders approach technology adoption. Concurrently, we conducted semi-structured interviews with 89 professionals in healthcare and other relevant fields. Using a modified grounded theory approach, we were able to identify 8 key decision points and comprehensive procedures throughout the AI adoption lifecycle. This is one of the most detailed qualitative analyses to date of the current governance structures and processes involved in AI adoption by health systems in the United States. We hope these findings can inform future efforts to build capabilities to promote the safe, effective, and responsible adoption of emerging technologies in healthcare.

연구 동기 및 목표

• 표준화된 규제 프레임워크가 없는 상황에서 의료 분야의 AI에 대한 명확한 조직 거버넌스 구조의 부재를 해결하기 위해.
• 현재 의료 기관이 임상 환경에서 AI 도입 및 통합에 대해 어떻게 의사결정하고 있는지 이해하기 위해.
• 책임감 있는 AI 배포를 저해하는 기관 역량, 전문 지식, 의사결정 프로세스의 격차를 특정하기 위해.
• 의료 기관 리더, AI 개발자, 정책 입안자들에게 실행 가능한 거버넌스 자원과 공통 기준을 제공하기 위해.
• 임상의의 주도성, 다학제적 협업, 체계적 책임을 중심으로 삼아 공정하고 신뢰할 수 있는 AI 통합을 촉진하기 위해.

제안 방법

• 수정된 기반 이론 접근법을 사용하여 의료, 인공지능 윤리 및 관련 분야의 89명의 전문가를 대상으로 반구조화된 인터뷰를 실시하였다.
• AI 도입의 핵심 의사결정 포인트를 바탕으로 한 프로토타입을 사용하여 의료 및 인공지능 윤리 전문가들을 대상으로 사용성 테스트를 수행하였다.
• 주요 미국 의료 기관 및 외부 전문가들과의 다기관 협업을 통해 기관의 의사결정 프로세스를 매핑하였다.
• 반복되는 거버넌스 과제와 알고리즘 큐레이터, 브로커, 아티큘레이터와 같은 기관 역할을 특정하였다.
• 조직의 워크플로우, 정책 환경, 임상 통합 수요를 분석하여 실용적인 거버넌스 절차를 정의하였다.
• 발견사항을 종합하여 실제 기관의 도입 프로세스를 반영하는 8개의 의사결정 포인트로 구성된 프레임워크를 도출하였다.

실험 결과

연구 질문

• RQ1 의료 기관이 임상 치료에서 AI를 도입할 때 직면하는 핵심 의사결정 포인트는 무엇인가?
• RQ2 기구적 거버넌스 구조는 현재 AI의 안전하고 공정한 의료 분야 통합을 어떻게 지원하거나 저해하는가?
• RQ3 기술 평가를 초월해 AI 도입을 효과적으로 거버넌스하기 위해 필요한 기관 역할과 역량은 무엇인가?
• RQ4 다학제적 협업은 임상 환경에서 AI 통합의 품질과 신뢰성 향상에 어떻게 기여하는가?
• RQ5 의료 기관에서 일관되고 공정하며 책임감 있는 AI 거버넌스를 방해하는 체계적 장애물은 무엇인가?

주요 결과

• 의료 기관 전반에서 AI 도입의 조직 거버넌스를 체계화하는 데 기능하는 8개의 핵심 의사결정 포인트가 특정되었으며, 이는 기관의 의사결정에 반복 가능한 프레임워크를 형성한다.
• 임상의가 AI를 신뢰하기 위해서는 투명성, 설명 가능성, 그리고 모델 행동과 데이터 기원에 대한 지속적인 문서화가 필수적이다.
• 알고리즘 큐레이터, 브로커, 아티큘레이터와 같은 새로운 기관 역할이 필수적이지만, 현재의 의료 기관에서는 자주 존재하지 않거나 자원이 부족한 편이다.
• 임상의, 데이터 과학자, 기술 전문가로 구성된 다학제적 팀은 타당성 평가, 편향 완화, 임상 안전 확보에 있어 핵심적이다.
• AI 거버넌스는 알고리즘 중심이 아니라 기관 중심이어야 하며, 고립된 모델 성능이 아닌 사회기술적 시스템과 결과에 초점을 맞춰야 한다.
• 의료 기관 내외부에서 전문 지식과 자원의 불균형 분포는 AI 도입과 결과의 불평등을 악화시킬 위험이 있다.