[論文レビュー] An intelligent sociotechnical systems (iSTS) framework: Enabling a hierarchical human-centered AI (hHCAI) approach

Wei Xu, Zaifeng Gao|arXiv (Cornell University)|Jan 6, 2024

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

本稿は、人間中心のAI（HCAI）を個人、組織、エコシステム、社会的レベルに統合することで、AIの社会的影響に対処するため、伝統的な社会技術システム理論を拡張する知的社会技術システム（iSTS）フレームワークを提案する。階層的HCAI（hHCAI）アプローチを導入し、人間とAIのパフォーマンスを構造的・統合的に最適化できるようにし、現在のHCAIの限界を克服するスケーラブルで社会技術的根拠を持つソリューションを提供する。

ABSTRACT

While artificial intelligence (AI) offers significant benefits, it also has negatively impacted humans and society. A human-centered AI (HCAI) approach has been proposed to address these issues. However, current HCAI practices have shown limited contributions due to a lack of sociotechnical thinking. To overcome these challenges, we conducted a literature review and comparative analysis of sociotechnical characteristics with respect to AI. Then, we propose updated sociotechnical systems (STS) design principles. Based on these findings, this paper introduces an intelligent sociotechnical systems (iSTS) framework to extend traditional STS theory and meet the demands with respect to AI. The iSTS framework emphasizes human-centered joint optimization across individual, organizational, ecosystem, and societal levels. The paper further integrates iSTS with current HCAI practices, proposing a hierarchical HCAI (hHCAI) approach. This hHCAI approach offers a structured approach to address challenges in HCAI practices from a broader sociotechnical perspective. Finally, we provide recommendations for future iSTS and hHCAI work.

研究の動機と目的

• 現在の人間中心のAI（HCAI）実践に見られる、社会技術システム理論との統合が不十分であるという限界を是正すること。
• AIの文脈における社会技術的特性を分析することで、既存のHCAIアプローチのギャップを同定すること。
• AI駆動の環境に特化した、更新された社会技術システム（STS）設計原則の開発。
• 個人、組織、エコシステム、社会的レベルで人間中心の統合的最適化を可能にする知的社会技術システム（iSTS）フレームワークの提案。
• iSTSをHCAI実践と統合し、階層的HCAI（hHCAI）アプローチを導入することで、体系的かつスケーラブルな実装を可能にすること。

提案手法

• AIアプリケーションにおける社会技術的特性に関する包括的文献レビューと比較分析の実施。
• 既存のフレームワークとAI固有の課題の統合を通じて、更新された社会技術システム（STS）設計原則の導出。
• 伝統的なSTS理論の拡張として、個人、組織、エコシステム、社会的レベルの4段階の階層的構造を有するiSTSフレームワークの構築。
• iSTSフレームワークを現在のHCAI実践と統合し、人間-AI協働を階層的レベルに分けて構造化する階層的HCAI（hHCAI）アプローチの提案。
• 各階層レベルにおける人間とAIのパフォーマンスの統合的最適化を保証するため、システム思考のアプローチの採用。
• 実世界のAI導入において、iSTSおよびhHCAIの今後の研究と実装に向けた実行可能な提言の提供。

実験結果

リサーチクエスチョン

• RQ1 社会技術システム理論は、人間社会におけるAI統合の複雑性をよりよく対処するようにどのように拡張可能か？
• RQ2 伝統的なSTSとAI駆動環境を区別する主な社会技術的特性は何か？
• RQ3 人間中心のAI（HCAI）は、個人、組織、エコシステム、社会的レベルにわたり、どのように体系的にスケーリング可能か？
• RQ4 AI駆動の社会技術システムにおいて、人間とAIの最適化を可能にするために必要な設計原則は何か？
• RQ5 階層的構造は、複雑なシステムにおけるHCAI実践のスケーラビリティと効果性をどのように向上させるか？

主な発見

• iSTSフレームワークは、個人、組織、エコシステム、社会的レベルの4段階の階層的構造に人間中心設計を統合することで、伝統的なSTS理論を効果的に拡張している。
• 提案されたhHCAIアプローチは、HCAI実践を複数レベルの階層に整理することで、構造的かつスケーラブルな人間-AI協働を可能にしている。
• AI固有の社会技術的ダイナミクスに適合させるために、更新された社会技術システム（STS）設計原則が同定され、iSTSフレームワークに統合された。
• iSTSとHCAI実践の統合により、多様なシステムレベルで人間とAIのパフォーマンスを統合的に最適化する体系的手段が提供された。
• 本フレームワークは、複雑で大規模なシステムにおける人間中心のAIの今後の研究と実装に実用的な道筋を提示している。
• 本研究は、特に学際的かつ実世界のAI導入文脈において、iSTSおよびhHCAI研究を前進させるための実行可能な提言を提供している。