[论文解读] The impact of generative artificial intelligence on socioeconomic inequalities and policy making

Valerio Capraro, Austin Lentsch+29 more|arXiv (Cornell University)|Dec 16, 2023

Technology Use by Older Adults被引用 6

一句话总结

这篇跨学科论文探讨了生成式人工智能在工作、教育、医疗保健和信息系统等领域可能加剧或缓解社会经济不平等问题。它评估了现有研究，识别出关键的研究空白，并提出了基于证据的政策建议，以引导生成式人工智能实现更公平的结果，强调需要主动的、跨部门的治理框架。

ABSTRACT

Generative artificial intelligence has the potential to both exacerbate and ameliorate existing socioeconomic inequalities. In this article, we provide a state-of-the-art interdisciplinary overview of the potential impacts of generative AI on (mis)information and three information-intensive domains: work, education, and healthcare. Our goal is to highlight how generative AI could worsen existing inequalities while illuminating how AI may help mitigate pervasive social problems. In the information domain, generative AI can democratize content creation and access, but may dramatically expand the production and proliferation of misinformation. In the workplace, it can boost productivity and create new jobs, but the benefits will likely be distributed unevenly. In education, it offers personalized learning, but may widen the digital divide. In healthcare, it might improve diagnostics and accessibility, but could deepen pre-existing inequalities. In each section we cover a specific topic, evaluate existing research, identify critical gaps, and recommend research directions, including explicit trade-offs that complicate the derivation of a priori hypotheses. We conclude with a section highlighting the role of policymaking to maximize generative AI's potential to reduce inequalities while mitigating its harmful effects. We discuss strengths and weaknesses of existing policy frameworks in the European Union, the United States, and the United Kingdom, observing that each fails to fully confront the socioeconomic challenges we have identified. We propose several concrete policies that could promote shared prosperity through the advancement of generative AI. This article emphasizes the need for interdisciplinary collaborations to understand and address the complex challenges of generative AI.

研究动机与目标

• 分析生成式人工智能在工作、教育、医疗保健和信息等关键社会领域中可能加剧或缓解现有社会经济不平等的方式。
• 评估现有研究在信息传播、劳动力市场、教育和医疗保健领域中生成式人工智能影响的现状。
• 识别生成式人工智能系统在设计与部署过程中存在的关键研究空白与权衡取舍。
• 评估欧盟、美国和英国现有政策框架在应对人工智能引发的不平等方面的优缺点。
• 提出具体、可操作的政策建议，通过负责任的生成式人工智能开发与部署促进共享繁荣。

提出的方法

• 对信息、工作、教育和医疗保健四个领域中关于生成式人工智能的同行评审文献和实证研究进行跨学科综述。
• 系统评估生成式人工智能应用的风险（例如虚假信息、劳动力替代）与益处（例如个性化学习、诊断支持）。
• 梳理欧洲联盟、美国和英国的现有政策工具，以评估其在应对社会经济差异方面的充分性。
• 识别关键权衡——如效率与公平、创新与问责之间的权衡——这些权衡使预先制定政策假设变得复杂。
• 基于社会科学、计算机科学和公共政策的跨学科洞见，提出一组有针对性的政策建议。
• 强调研究人员、政策制定者与公民社会共同参与治理在确保生成式人工智能实现公平结果方面的重要性。

实验结果

研究问题

• RQ1 在工作、教育、医疗保健和信息领域，生成式人工智能以何种方式可能同时加剧和减少社会经济不平等？
• RQ2 欧盟、美国和英国的现有政策框架在多大程度上应对或未能应对生成式人工智能的社会经济风险？
• RQ3 在生成式人工智能系统的部署中，创新、效率与公平之间存在哪些关键权衡？
• RQ4 哪些具体的政策干预措施能够最大化生成式人工智能的公平效益，同时最小化其有害影响？
• RQ5 跨学科协作如何改善生成式人工智能的设计与治理，以服务于公共利益？

主要发现

• 生成式人工智能有潜力在信息系统中实现内容创作与获取的民主化，但也可能显著扩大虚假信息的传播规模与范围。
• 在职场中，生成式人工智能可提升生产力并创造新岗位，但其收益可能主要集中在高技能和资源更丰富的劳动者中，从而加剧劳动力市场不平等。
• 在教育领域，由生成式人工智能支持的个性化学习可能改善学习成果，但若缺乏公平获取，可能加深数字鸿沟。
• 在医疗保健领域，生成式人工智能可提高诊断准确性和服务可及性，但如果忽视数据偏见和基础设施差距，可能加剧现有不平等。
• 当前欧盟、美国和英国的政策框架在应对人工智能影响的社会经济维度方面仍显不足，特别是在确保公平获取和利益分配方面。
• 本文识别出一系列具体政策建议，如公共投资于人工智能素养、以公平为导向的AI采购政策以及监管保障措施，这些措施有望通过生成式人工智能促进共享繁荣。