[論文レビュー] Anticipating Impacts: Using Large-Scale Scenario Writing to Explore Diverse Implications of Generative AI in the News Environment

Kimon Kieslich, Nicholas Diakopoulos+1 more|arXiv (Cornell University)|Oct 10, 2023

Misinformation and Its Impacts被引用数 4

ひとこと要約

本研究では、119名のステークホルダー（ニュース消費者、開発者、コンテンツ作成者）を対象に大規模なシナリオ作成と参加型フォアシフトを実施し、報道環境における生成的AIの多様な予想される影響を検討した。不正情報やバイアスといった主要なリスクを特定し、緩和戦略をマッピングした。また、特にEU AI法における透明性義務に関して、ステークホルダー間の認識の有意な差異が明らかになった。これは、シナリオ作成がAI影響評価のための価値あるツールであることを示している。

ABSTRACT

The tremendous rise of generative AI has reached every part of society - including the news environment. There are many concerns about the individual and societal impact of the increasing use of generative AI, including issues such as disinformation and misinformation, discrimination, and the promotion of social tensions. However, research on anticipating the impact of generative AI is still in its infancy and mostly limited to the views of technology developers and/or researchers. In this paper, we aim to broaden the perspective and capture the expectations of three stakeholder groups (news consumers; technology developers; content creators) about the potential negative impacts of generative AI, as well as mitigation strategies to address these. Methodologically, we apply scenario writing and use participatory foresight in the context of a survey (n=119) to delve into cognitively diverse imaginations of the future. We qualitatively analyze the scenarios using thematic analysis to systematically map potential impacts of generative AI on the news environment, potential mitigation strategies, and the role of stakeholders in causing and mitigating these impacts. In addition, we measure respondents' opinions on a specific mitigation strategy, namely transparency obligations as suggested in Article 52 of the draft EU AI Act. We compare the results across different stakeholder groups and elaborate on the (non-) presence of different expected impacts across these groups. We conclude by discussing the usefulness of scenario-writing and participatory foresight as a toolbox for generative AI impact assessment.

研究の動機と目的

• 報道機関における生成的AIの影響評価を、開発者や研究者の視点にとどめず、ニュース消費者やコンテンツ作成者の視点も含めることで拡大すること。
• 多様なステークホルダーの視点から、報道環境における生成的AIの予想される否定的影響を特定・分類すること。
• ジャーナリズムにおける生成的AIのリスクに対する、ステークホルダーごとの緩和戦略をマッピングすること。
• 特にEU AI法の草案第52条に定められた透明性義務に対するステークホルダーの態度を評価すること。
• シナリオ作成と参加型フォアシフトが、生成的AIの予防的ガバナンスに用いるツールとしての有効性を評価すること。

提案手法

• ニュース消費者、テクノロジー開発者、コンテンツ作成者の3つのステークホルダー群に、合計119名の参加者を対象にアンケート調査を実施した。
• 報道分野におけるAIの将来の影響を、認知的に多様なビジョンを引き出すために、構造化されたシナリオ作成の形式を用いた参加型フォアシフトを実施した。
• テーマ分析を用いて、シナリオを影響、緩和、ステークホルダーの役割のテーマごとに体系的にコード化・分類した。
• EU AI法草案第52条に提案された透明性義務に関する意見を測定し、ステークホルダーの支持度を評価した。
• 各ステークホルダー群の反応を比較し、認識されるリスクや好ましい解決策の違いを特定した。
• 定性的な発見を定量的な意見データと統合し、グループ間での合意と対立の度合いを評価した。

実験結果

リサーチクエスチョン

• RQ1 異なるステークホルダー群は、報道環境における生成的AIのどのような否定的影響を予想しているか？
• RQ2 ステークホルダー群は、ジャーナリズムにおける生成的AI関連のリスクの原因や解決策に関して、どのように認識が異なるか？
• RQ3 EU AI法の第52条に定められたような透明性義務は、AIリスク緩和に対するステークホルダーの期待において、どのような役割を果たしているか？
• RQ4 AI駆動のニュースにおいて、フェイクニュース、バイアス、社会的極化といった問題に対する、ステークホルダーが提案する緩和戦略は何か？
• RQ5 シナリオ作成と参加型フォアシフトは、生成的AIの影響について多様で予測的な視点を捉えるのに、どれほど効果的か？

主な発見

• ニュース消費者は、生成的AIがフェイクニュースの拡散を助長し、ニュースメディアへの信頼を損なうという点を最も頻繁に予想した。
• テクノロジー開発者は、モデルバイアスやデータ品質の問題といった技術的リスクを強調する傾向があり、同時にAIがニュース制作の改善に寄与する可能性に慎重な楽観を示した。
• コンテンツ作成者は、AI生成コンテンツによる職業的代替や編集基準の低下を懸念した。
• EU AI法第52条に定められた透明性義務に対する支持は、ニュース消費者およびコンテンツ作成者で最も強く、開発者では低い水準だった。
• テーマ分析により、信頼性の損なわれ方、アルゴリズムによる拡大、労働市場の変化といった、それぞれが独自の緩和戦略を提言する影響のクラスタが明確に分離した。
• 本研究は、シナリオ作成が、AI影響に対する多様で文脈に即した期待を効果的に捉えられることを示しており、予防的ガバナンスのための強固な手法であると示している。