[论文解读] From human-centered to social-centered artificial intelligence: Assessing ChatGPT's impact through disruptive events

Skyler Wang, Ned Cooper+1 more|arXiv (Cornell University)|May 31, 2023

Artificial Intelligence in Healthcare and EducationMedicine被引用 3

一句话总结

本文挑战了AI评估中占主导地位的人本框架，提出一种以社会为中心的评估方法来衡量ChatGPT的影响，认为其对社会群体、制度和规范的影响，与个体层面的偏见或幻觉等问题同样关键。通过分析破坏性事件，作者证明大型语言模型（如ChatGPT）正在重塑集体实践与社会结构，呼吁技术从业者采用纵向研究、民族志研究和参与式评估方法，超越以个体为中心的指标。

ABSTRACT

Large language models (LLMs) and dialogue agents represent a significant shift in artificial intelligence (AI) research, particularly with the recent release of the GPT family of models. ChatGPT's generative capabilities and versatility across technical and creative domains led to its widespread adoption, marking a departure from more limited deployments of previous AI systems. While society grapples with the emerging cultural impacts of this new societal-scale technology, critiques of ChatGPT's impact within machine learning research communities have coalesced around its performance or other conventional safety evaluations relating to bias, toxicity, and "hallucination." We argue that these critiques draw heavily on a particular conceptualization of the "human-centered" framework, which tends to cast atomized individuals as the key recipients of technology's benefits and detriments. In this article, we direct attention to another dimension of LLMs and dialogue agents' impact: their effects on social groups, institutions, and accompanying norms and practices. By analyzing ChatGPT's social impact through a social-centered framework, we challenge individualistic approaches in AI development and contribute to ongoing debates around the ethical and responsible deployment of AI systems. We hope this effort will call attention to more comprehensive and longitudinal evaluation tools (e.g., including more ethnographic analyses and participatory approaches) and compel technologists to complement human-centered thinking with social-centered approaches.

研究动机与目标

• 批判以个体用户为中心的AI评估框架的局限性，这些框架优先考虑个体用户而非集体社会影响。
• 考察ChatGPT的部署如何在个体层面问题（如偏见或幻觉）之外，扰乱社会群体、制度和既定规范。
• 倡导在AI开发与评估中实现范式转变，转向考虑系统性与长期社会变革的社会中心方法。
• 呼吁在AI评估中整合民族志与参与式方法，以捕捉更广泛的社会影响。
• 通过强调需要反映现实社会动态的综合性评估工具，为伦理AI话语作出贡献。

提出的方法

• 作者采用社会中心理论框架分析ChatGPT的影响，将关注点从个体用户转向社会群体与制度。
• 他们通过定性分析破坏性事件（如机构的快速采纳或社会争议）来追踪ChatGPT如何改变社会规范与实践。
• 该研究借鉴现有文献与现实世界案例研究，说明ChatGPT发布后在教育、职业和公民领域发生的变化。
• 该方法强调解释性与批判性分析，而非定量指标，优先考虑对社会变迁的情境化理解。
• 作者主张将纵向研究、民族志研究与参与式评估方法作为传统安全与性能评估的补充。
• 该框架被用于重新诠释大型语言模型的常见批评，如幻觉与偏见，将其视为系统性社会现象，而非孤立的技术缺陷。

实验结果

研究问题

• RQ1 ChatGPT的部署如何影响个体用户之外的社会群体与制度？
• RQ2 破坏性事件在何种方式下揭示了大型语言模型（如ChatGPT）的社会中心影响？
• RQ3 为何传统的人本评估指标不足以捕捉生成式AI的更广泛社会影响？
• RQ4 社会中心框架如何改善AI系统的伦理与负责任发展？
• RQ5 需要何种替代性评估方法，以评估大型语言模型的长期社会后果？

主要发现

• ChatGPT的影响超越了个体用户，显著改变了教育、工作与公民参与领域的制度实践。
• 诸如广泛用于学术领域或引发政策回应等破坏性事件，凸显了社会规范与组织行为的系统性转变。
• 本文表明，幻觉与偏见等问题不仅是技术缺陷，更反映出深层的社会与制度脆弱性。
• 传统的人本评估无法捕捉由大型语言模型驱动的集体性、结构性转变，例如知识生产与决策过程的变化。
• 作者得出结论：纵向研究、民族志研究与参与式评估方法对于理解与治理AI的社会影响至关重要。
• 必须转向社会中心的AI评估，以确保伦理且负责任的部署，充分考虑社会层面的后果。