[论文解读] An intelligent sociotechnical systems (iSTS) framework: Enabling a hierarchical human-centered AI (hHCAI) approach

Wei Xu, Zaifeng Gao|arXiv (Cornell University)|Jan 6, 2024

Ethics and Social Impacts of AI被引用 4

一句话总结

本文提出了一种智能社会技术系统（iSTS）框架，该框架在传统社会技术系统理论的基础上进行扩展，以应对人工智能对社会的影响，通过在个人、组织、生态系统和社会四个层面整合以人为本的人工智能（HCAI），实现系统化、协同优化的人机性能。该研究引入了一种类层次HCAI（hHCAI）方法，以实现对人类与人工智能性能的结构化、联合优化，为当前HCAI的局限性提供了一种可扩展、基于社会技术的解决方案。

ABSTRACT

While artificial intelligence (AI) offers significant benefits, it also has negatively impacted humans and society. A human-centered AI (HCAI) approach has been proposed to address these issues. However, current HCAI practices have shown limited contributions due to a lack of sociotechnical thinking. To overcome these challenges, we conducted a literature review and comparative analysis of sociotechnical characteristics with respect to AI. Then, we propose updated sociotechnical systems (STS) design principles. Based on these findings, this paper introduces an intelligent sociotechnical systems (iSTS) framework to extend traditional STS theory and meet the demands with respect to AI. The iSTS framework emphasizes human-centered joint optimization across individual, organizational, ecosystem, and societal levels. The paper further integrates iSTS with current HCAI practices, proposing a hierarchical HCAI (hHCAI) approach. This hHCAI approach offers a structured approach to address challenges in HCAI practices from a broader sociotechnical perspective. Finally, we provide recommendations for future iSTS and hHCAI work.

研究动机与目标

• 为解决当前以人为本的人工智能（HCAI）实践中的局限性，这些实践往往缺乏与社会技术系统思维的整合。
• 通过分析人工智能情境中的社会技术特征，识别现有HCAI方法中的缺口。
• 制定适用于人工智能驱动环境的更新版社会技术系统（STS）设计原则。
• 提出一种智能社会技术系统（iSTS）框架，以实现在个人、组织、生态系统和社会四个层级上的人本联合优化。
• 通过引入类层次HCAI（hHCAI）方法，将iSTS与当前HCAI实践整合，实现系统化、可扩展的实施。

提出的方法

• 对人工智能应用中的社会技术特征进行全面的文献综述与比较分析。
• 通过整合现有框架与人工智能特定挑战，提炼出更新的社会技术系统（STS）设计原则。
• 开发iSTS框架，作为传统STS理论的延伸，在四个层级上嵌入以人为本的设计：个人、组织、生态系统和社会。
• 通过将iSTS框架与当前HCAI实践整合，提出类层次HCAI（hHCAI）方法，以在各层级上结构化人类-人工智能协作。
• 采用系统思维方法，确保在层级结构的每一级上实现人类与人工智能性能的联合优化。
• 为未来在现实世界人工智能部署中研究与实施iSTS和hHCAI，提供可操作的建议。

实验结果

研究问题

• RQ1 社会技术系统理论如何被扩展，以更好地应对人工智能在人类社会中整合的复杂性？
• RQ2 哪些关键的社会技术特征将传统STS与人工智能赋能的环境区分开来？
• RQ3 如何在个人、组织、生态系统和社会层级上系统性地扩展以人为本的人工智能（HCAI）？
• RQ4 需要哪些设计原则，以实现在人工智能驱动的社会技术系统中的人机联合优化？
• RQ5 类层次结构如何提升HCAI实践在复杂系统中的可扩展性与有效性？

主要发现

• iSTS框架通过在四个层级（个人、组织、生态系统、社会）上嵌入以人为本的设计，成功扩展了传统STS理论。
• 所提出的hHCAI方法通过将HCAI实践组织为多层级结构，实现了系统化、可扩展的人机协作。
• 识别并整合了更新的社会技术系统（STS）设计原则，以更好地契合人工智能特定的社会技术动态。
• 将iSTS与HCAI实践整合，为在多样化系统层级上实现人类与人工智能性能的联合优化，提供了一套系统化方法。
• 该框架为未来在复杂、大规模系统中研究与实施以人为本的人工智能提供了切实可行的路径。
• 本研究为推进iSTS与hHCAI研究提供了可操作的建议，尤其适用于跨学科及现实世界的人工智能部署情境。