[논문 리뷰] An intelligent sociotechnical systems (iSTS) framework: Enabling a hierarchical human-centered AI (hHCAI) approach

Wei Xu, Zaifeng Gao|arXiv (Cornell University)|2024. 01. 06.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 논문은 인간 중심의 인공지능(HCAI)을 개인, 조직, 생태계, 사회 수준에서 통합함으로써 기존의 사회기술 체계 이론을 확장하여 AI의 사회적 영향을 다루는 지능형 사회기술 체계(iSTS) 프레임워크를 제안한다. 이는 인간과 AI 성능의 체계적이고 통합된 최적화를 가능하게 하는 계층적 HCAI(hHCAI) 접근법을 도입하여 현재 HCAI의 한계를 해결할 수 있는 확장 가능한, 사회기술 기반의 솔루션을 제공한다.

ABSTRACT

While artificial intelligence (AI) offers significant benefits, it also has negatively impacted humans and society. A human-centered AI (HCAI) approach has been proposed to address these issues. However, current HCAI practices have shown limited contributions due to a lack of sociotechnical thinking. To overcome these challenges, we conducted a literature review and comparative analysis of sociotechnical characteristics with respect to AI. Then, we propose updated sociotechnical systems (STS) design principles. Based on these findings, this paper introduces an intelligent sociotechnical systems (iSTS) framework to extend traditional STS theory and meet the demands with respect to AI. The iSTS framework emphasizes human-centered joint optimization across individual, organizational, ecosystem, and societal levels. The paper further integrates iSTS with current HCAI practices, proposing a hierarchical HCAI (hHCAI) approach. This hHCAI approach offers a structured approach to address challenges in HCAI practices from a broader sociotechnical perspective. Finally, we provide recommendations for future iSTS and hHCAI work.

연구 동기 및 목표

• 기존 인간 중심의 인공지능(HCAI) 실천 방식이 사회기술 체계 사고와 통합되어 있지 않은 데 기인한 한계를 해결하기 위해.
• AI 환경에서의 사회기술적 특성 분석을 통해 기존 HCAI 접근법의 격차를 규명하기 위해.
• AI 기반 환경에 맞게 조정된 사회기술 체계(_STS) 설계 원칙을 개발하기 위해.
• 개인, 조직, 생태계, 사회 수준에서 인간 중심의 공동 최적화를 가능하게 하는 지능형 사회기술 체계(iSTS) 프레임워크를 제안하기 위해.
• iSTS를 HCAI 실천과 통합하기 위해 계층적 HCAI(hHCAI) 접근법을 도입하여 체계적이고 확장 가능한 구현을 가능하게 하기 위해.

제안 방법

• AI 응용 분야에서의 사회기술적 특성에 대한 종합적인 문헌 검토 및 비교 분석을 수행하기 위해.
• 기존 프레임워크와 AI 특화 과제의 융합을 통해 업데이트된 사회기술 체계(_STS) 설계 원칙을 유도하기 위해.
• 기존 STS 이론의 연장선으로서 iSTS 프레임워크를 개발하여 개인, 조직, 생태계, 사회 수준의 네 단계 계층에서 인간 중심 설계를 통합하기 위해.
• iSTS 프레임워크를 현재 HCAI 실천과 통합하여 계층적 HCAI(hHCAI) 접근법을 제안함으로써 수준 간 인간-AI 협업을 체계화하기 위해.
• 각 계층 수준에서 인간과 AI 성능의 공동 최적화를 보장하기 위해 체계적 사고 방법론을 사용하기 위해.
• 실제 AI 구현에 있어 iSTS와 hHCAI의 향후 연구 및 구현을 위한 실행 가능한 권고 사항을 제공하기 위해.

실험 결과

연구 질문

• RQ1 사회기술 체계 이론은 인간 사회에서의 AI 통합의 복잡성을 더 잘 다루기 위해 어떻게 확장될 수 있는가?
• RQ2 伝통적 STS와 AI 기반 환경을 구분짓는 데 핵심적인 사회기술적 특성은 무엇인가?
• RQ3 인간 중심의 인공지능(HCAI)은 개인, 조직, 생태계, 사회 수준에서 어떻게 체계적으로 확장될 수 있는가?
• RQ4 AI 기반 사회기술 체계에서 인간과 AI의 공동 최적화를 가능하게 하기 위해 필요한 설계 원칙은 무엇인가?
• RQ5 계층적 구조는 복잡한 시스템에서 HCAI 실천의 확장성과 효과성을 어떻게 향상시킬 수 있는가?

주요 결과

• iSTS 프레임워크는 개인, 조직, 생태계, 사회 수준의 네 단계 계층에서 인간 중심 설계를 통합함으로써 기존 STS 이론을 성공적으로 확장하였다.
• 제안된 hHCAI 접근법은 HCAI 실천을 다단계 계층으로 구성함으로써 체계적이고 확장 가능한 인간-AI 협업을 가능하게 하였다.
• 업데이트된 사회기술 체계(STS) 설계 원칙이 도출되어 iSTS 프레임워크에 통합되어 AI 특화 사회기술 역학에 더 잘 부합하도록 하였다.
• iSTS와 HCAI 실천의 통합은 다양한 수준의 시스템에서 인간과 AI 성능의 공동 최적화를 위한 체계적인 방법을 제공하였다.
• 이 프레임워크는 복잡하고 대규모 시스템에서 향후 인간 중심의 인공지능 연구 및 구현을 위한 실질적인 길을 제공한다.
• 본 연구는 특히 다학제적 및 실제 AI 구현 환경에서 iSTS와 hHCAI 연구를 발전시키기 위한 실행 가능한 권고 사항을 제공한다.