[論文レビュー] AI could create a perfect storm of climate misinformation

Victor Galaz, H. Metzler+4 more|arXiv (Cornell University)|Jun 22, 2023

Misinformation and Its Impacts被引用数 13

ひとこと要約

本論文は、AI、ソーシャルプラットフォーム、推奨システムが気候に関する誤情報を拡大する可能性を分析し、政策立案者、研究者、そして公衆の協調的な行動を促す。

ABSTRACT

We are in the midst of a transformation of the digital news ecosystem. The expansion of online social networks, the influence of recommender systems, increased automation, and new generative artificial intelligence tools are rapidly changing the speed and the way misinformation about climate change and sustainability issues moves around the world. Policymakers, researchers and the public need to combine forces to address the dangerous combination of opaque social media algorithms, polarizing social bots, and a new generation of AI-generated content. This synthesis brief is the result of a collaboration between Stockholm Resilience Centre at Stockholm University, the Beijer Institute of Ecological Economics at the Royal Swedish Academy of Sciences, the Complexity Science Hub Vienna, and Karolinska Institutet. It has been put together as an independent contribution to the Nobel Prize Summit 2023, Truth, Trust and Hope, Washington D.C., 24th to 26th of May 2023.

研究の動機と目的

• 進化するデジタルニュースエコシステムにおける気候誤情報への関心を喚起する。
• AIツール、推奨システム、自動化エージェントが気候と持続可能性に関する誤情報を広めるためにどのように相互作用する可能性があるかを評価する。
• 真実・信頼・希望のための政策と研究のギャップを浮き彫りにし、協働による対応案を提案する。

提案手法

• Stockholm Resilience Centre、Beijer Institute、Complexity Science Hub、Karolinska Institutet の協力によって作成された総説的ブリーフ。
• オンラインネットワーク、推奨システム、自動化、AI生成コンテンツを重視した変化するデジタルニュースエコシステムの分析。
• 不透明なソーシャルメディアアルゴリズム、分極化ボット、新しいAIコンテンツ生成ツールへの対応の必要性に焦点を当てた主張。

実験結果

リサーチクエスチョン

• RQ1 不透明なソーシャルメディアアルゴリズム、分極化ボット、AI生成コンテンツが気候誤情報を拡散するためにどのように相互作用する可能性があるか？
• RQ2 AIコンテンツ生成とプラットフォームのダイナミクスの収束に対抗するために、どのような政策・研究・社会的行動が必要か？
• RQ3 気候コミュニケーションにおける真実・信頼・希望を守るために、どのような協働戦略が有効か？

主な発見

• 本論文は、不透明なソーシャルメディアアルゴリズム、分極化ボット、AI生成コンテンツの危険な組み合わせを気候誤情報の要因として特定している。
• デジタルニュースエコシステムの急速な進化と、政策立案者、研究者、一般市民間の協調的な行動の必要性を強調している。
• ノーベル賞サミット文脈を想定した総説ブリーフを位置づけ、部門横断的な対応を促す。