[论文解读] Anticipating Impacts: Using Large-Scale Scenario Writing to Explore Diverse Implications of Generative AI in the News Environment

Kimon Kieslich, Nicholas Diakopoulos+1 more|arXiv (Cornell University)|Oct 10, 2023

Misinformation and Its Impacts被引用 4

一句话总结

本研究通过大规模的情景写作与参与式前瞻方法，联合119名利益相关者（包括新闻消费者、开发者和内容创作者）探讨了生成式人工智能在新闻环境中的多样化预期影响。研究识别出虚假信息和偏见等关键风险，梳理了缓解策略，并揭示了利益相关者在认知上的显著差异，特别是对欧盟人工智能法案中透明度义务的看法，证明情景写作是评估人工智能影响的有力工具。

ABSTRACT

The tremendous rise of generative AI has reached every part of society - including the news environment. There are many concerns about the individual and societal impact of the increasing use of generative AI, including issues such as disinformation and misinformation, discrimination, and the promotion of social tensions. However, research on anticipating the impact of generative AI is still in its infancy and mostly limited to the views of technology developers and/or researchers. In this paper, we aim to broaden the perspective and capture the expectations of three stakeholder groups (news consumers; technology developers; content creators) about the potential negative impacts of generative AI, as well as mitigation strategies to address these. Methodologically, we apply scenario writing and use participatory foresight in the context of a survey (n=119) to delve into cognitively diverse imaginations of the future. We qualitatively analyze the scenarios using thematic analysis to systematically map potential impacts of generative AI on the news environment, potential mitigation strategies, and the role of stakeholders in causing and mitigating these impacts. In addition, we measure respondents' opinions on a specific mitigation strategy, namely transparency obligations as suggested in Article 52 of the draft EU AI Act. We compare the results across different stakeholder groups and elaborate on the (non-) presence of different expected impacts across these groups. We conclude by discussing the usefulness of scenario-writing and participatory foresight as a toolbox for generative AI impact assessment.

研究动机与目标

• 通过纳入新闻消费者和内容创作者，将生成式人工智能在新闻领域影响评估的视角从开发者和研究人员的单一视角扩展至更广泛的利益相关者群体。
• 从多元利益相关者视角出发，识别并分类生成式人工智能对新闻环境可能带来的负面预期影响。
• 绘制新闻行业中针对生成式人工智能风险的、利益相关者特定的缓解策略。
• 评估利益相关者对透明度义务的态度，特别是对欧盟人工智能法案草案第52条的看法。
• 评估情景写作与参与式前瞻作为生成式人工智能前瞻性治理工具的有效性。

提出的方法

• 对119名参与者开展调查，涵盖三类利益相关者：新闻消费者、技术开发者和内容创作者。
• 通过结构化的情景写作练习实施参与式前瞻，以激发对人工智能在新闻领域未来影响的多样化认知构想。
• 采用主题分析法，系统地对情景进行编码与分类，归纳为影响、缓解措施和利益相关者角色等主题。
• 测量利益相关者对欧盟人工智能法案草案第52条中提出的透明度义务的意见，以评估其支持度。
• 比较不同利益相关者群体的回应，识别其在风险感知与解决方案偏好上的差异。
• 整合定性发现与定量意见数据，评估各群体之间的共识与分歧。

实验结果

研究问题

• RQ1 不同利益相关者群体对生成式人工智能在新闻环境中的负面影响有何预期？
• RQ2 利益相关者群体在对新闻领域人工智能相关风险的成因与解决方案的认知上存在哪些差异？
• RQ3 透明度义务（如欧盟人工智能法案第52条所述）在利益相关者对缓解人工智能风险的期望中扮演何种角色？
• RQ4 利益相关者针对人工智能驱动新闻中的虚假信息、偏见与社会分化等问题提出了哪些缓解策略？
• RQ5 情景写作与参与式前瞻在捕捉生成式人工智能影响的多样化、前瞻性视角方面有多大的有效性？

主要发现

• 新闻消费者最常预期生成式人工智能会加剧虚假信息传播，并削弱对新闻媒体的信任。
• 技术开发者更倾向于强调技术风险，如模型偏见与数据质量问题，同时对人工智能提升新闻生产效率持谨慎乐观态度。
• 内容创作者则更关注人工智能内容导致的岗位替代与编辑标准下降问题。
• 对欧盟人工智能法案第52条透明度义务的支持度在新闻消费者与内容创作者中最高，而开发者支持度较低。
• 主题分析揭示了若干影响类别，如信誉侵蚀、算法放大效应与劳动力市场变动，各类影响均有不同利益相关者群体提出的独特缓解策略。
• 本研究证明，情景写作能有效捕捉对人工智能影响的多样化、情境化预期，为前瞻性治理提供稳健的方法。