[논문 리뷰] AI could create a perfect storm of climate misinformation

Victor Galaz, H. Metzler외 4명|arXiv (Cornell University)|2023. 06. 22.

Misinformation and Its Impacts인용 수 13

한 줄 요약

이 논문은 AI, 소셜 플랫폼, 추천 시스템이 기후 정보 왜곡을 증폭시킬 수 있는 방식을 분석하고, 정책입안자, 연구자, 대중의 협력적 조치를 촉구한다.

ABSTRACT

We are in the midst of a transformation of the digital news ecosystem. The expansion of online social networks, the influence of recommender systems, increased automation, and new generative artificial intelligence tools are rapidly changing the speed and the way misinformation about climate change and sustainability issues moves around the world. Policymakers, researchers and the public need to combine forces to address the dangerous combination of opaque social media algorithms, polarizing social bots, and a new generation of AI-generated content. This synthesis brief is the result of a collaboration between Stockholm Resilience Centre at Stockholm University, the Beijer Institute of Ecological Economics at the Royal Swedish Academy of Sciences, the Complexity Science Hub Vienna, and Karolinska Institutet. It has been put together as an independent contribution to the Nobel Prize Summit 2023, Truth, Trust and Hope, Washington D.C., 24th to 26th of May 2023.

연구 동기 및 목표

• 진화하는 디지털 뉴스 생태계에서 기후 허위정보에 대한 관심을 촉진한다.
• AI 도구, 추천 시스템, 자동화 에이전트가 기후 및 지속 가능성에 대한 허위정보 확산에 어떻게 상호 작용할 수 있는지 평가한다.
• 정확성, 신뢰, 그리고 희망을 위한 정책 및 연구의 격차를 강조하고 협력적 대응책을 제시한다.

제안 방법

• Stockholm Resilience Centre, Beijer Institute, Complexity Science Hub, 및 Karolinska Institutet 간의 협력을 통해 작성된 합성 브리핑.
• 온라인 네트워크, 추천 시스템, 자동화, 그리고 AI로 생성된 콘텐츠를 중심으로 변화하는 디지털 뉴스 생태계를 분석한다.
• 불투명한 소셜 미디어 알고리즘, 양극화 봇, 신형 AI 콘텐츠 생성 도구를 다룰 필요성에 초점을 맞춘 주장을 제시한다.

실험 결과

연구 질문

• RQ1 불투명한 소셜 미디어 알고리즘, 양극화 봇, 그리고 AI로 생성된 콘텐츠가 어떻게 상호 작용해 기후 허위정보를 확산시킬 수 있을까?
• RQ2 AI 콘텐츠 생성과 플랫폼 동역학의 융합에 맞서기 위해 필요한 정책, 연구, 사회적 조치는 무엇인가?
• RQ3 기후 커뮤니케이션에서 진실, 신뢰, 그리고 희망을 지키기 위한 협력 전략은 무엇인가?

주요 결과

• 본 논문은 불투명한 소셜 미디어 알고리즘, 양극화 봇, 그리고 AI로 생성된 콘텐츠의 위험한 조합이 기후 허위정보의 기여 요인임을 확인한다.
• 디지털 뉴스 생태계의 급속한 변화와 정책 입안자, 연구자, 대중 간의 협력적 조치의 필요성을 강조한다.
• Nobel Prize Summit 맥락을 위한 합성 브리핑을 제시하고 부문 간 대응을 촉진한다.