[논문 리뷰] Anticipating Impacts: Using Large-Scale Scenario Writing to Explore Diverse Implications of Generative AI in the News Environment

Kimon Kieslich, Nicholas Diakopoulos외 1명|arXiv (Cornell University)|2023. 10. 10.

Misinformation and Its Impacts인용 수 4

한 줄 요약

이 연구는 뉴스 환경에서 생성형 AI의 다양한 예상 영향을 탐색하기 위해 119명의 이해관계자—뉴스 소비자, 개발자, 콘텐츠 제작자—를 대상으로 대규모 시나리오 작성과 참가형 전망 기법을 활용한다. 연구는 허위정보와 편향과 같은 핵심 위험을 특정하고, 대응 전략을 맵핑하며, 특히 유럽 연합 AI 법안의 투명성 의무에 대해 이해관계자 간 인식의 상당한 차이를 드러내며, 시나리오 작성 기법이 AI 영향 평가에 있어 유용한 도구임을 입증한다.

ABSTRACT

The tremendous rise of generative AI has reached every part of society - including the news environment. There are many concerns about the individual and societal impact of the increasing use of generative AI, including issues such as disinformation and misinformation, discrimination, and the promotion of social tensions. However, research on anticipating the impact of generative AI is still in its infancy and mostly limited to the views of technology developers and/or researchers. In this paper, we aim to broaden the perspective and capture the expectations of three stakeholder groups (news consumers; technology developers; content creators) about the potential negative impacts of generative AI, as well as mitigation strategies to address these. Methodologically, we apply scenario writing and use participatory foresight in the context of a survey (n=119) to delve into cognitively diverse imaginations of the future. We qualitatively analyze the scenarios using thematic analysis to systematically map potential impacts of generative AI on the news environment, potential mitigation strategies, and the role of stakeholders in causing and mitigating these impacts. In addition, we measure respondents' opinions on a specific mitigation strategy, namely transparency obligations as suggested in Article 52 of the draft EU AI Act. We compare the results across different stakeholder groups and elaborate on the (non-) presence of different expected impacts across these groups. We conclude by discussing the usefulness of scenario-writing and participatory foresight as a toolbox for generative AI impact assessment.

연구 동기 및 목표

• 뉴스 소비자와 콘텐츠 제작자를 포함하여 개발자 및 연구자 관점 외의 시각을 포함시켜 뉴스 분야에서 생성형 AI의 영향 평가를 넓히기 위해.
• 다양한 이해관계자 관점에서 뉴스 환경에 미치는 생성형 AI의 예상되는 부정적 영향을 특정하고 분류하기 위해.
• 저널리즘 분야에서 생성형 AI 위험에 대한 이해관계자별 대응 전략을 맵핑하기 위해.
• 특히 초안 유럽 연합 AI 법안의 제52조에 명시된 투명성 의무에 대해 이해관계자들의 태도 평가하기 위해.
• 생성형 AI의 예측적 거버넌스를 위한 시나리오 작성과 참가형 전망 기법의 유용성 평가하기 위해.

제안 방법

• 뉴스 소비자, 기술 개발자, 콘텐츠 제작자로 구성된 세 이해관계자 그룹의 119명 참가자 대상 설문 조사 실시.
• 구조화된 시나리오 작성 연습을 통한 참가형 전망 기법을 활용해 뉴스 분야에서의 미래 AI 영향에 대한 다양한 사고 방식을 유도.
• 주제 분석을 통해 시나리오를 영향, 대응 전략, 이해관계자 역할 등의 주제로系 체계적으로 코드화 및 분류.
• 유럽 연합 초안 AI 법안의 제52조에 제시된 투명성 의무에 대한 의견을 측정하여 이해관계자들의 지지도 평가.
• 각 이해관계자 그룹의 반응을 비교하여 인식된 위험과 선호하는 해결책의 차이를 파악.
• 정성적 결과를 정량적 의견 데이터와 통합하여 그룹 간 공감대와 갈등 수준 평가.

실험 결과

연구 질문

• RQ1 다른 이해관계자 그룹은 뉴스 환경에서 생성형 AI의 어떤 부정적 영향을 예상하는가?
• RQ2 이해관계자 그룹은 저널리즘 분야의 생성형 AI 관련 위험 원인과 해결책에 대해 어떻게 다른 인식을 갖는가?
• RQ3 예를 들어, 유럽 연합 AI 법안 제52조에 명시된 투명성 의무는 이해관계자들이 AI 위험을 완화하기 위해 기대하는 데 어떤 역할을 하는가?
• RQ4 생성형 뉴스에서 허위정보, 편향, 사회적 균열 문제에 대해 이해관계자들은 어떤 대응 전략을 제안하는가?
• RQ5 시나리오 작성과 참가형 전망 기법은 생성형 AI 영향에 대한 다양한 예측적 시각을 효과적으로 포착하는가?

주요 결과

• 뉴스 소비자가 가장 자주 예측한 것은 생성형 AI가 허위정보 확산과 뉴스 미디어에 대한 신뢰도 약화에 기여할 것이라는 점이다.
• 기술 개발자들은 모델 편향과 데이터 품질 문제 같은 기술적 위험을 더 강조했으며, 同시에 뉴스 제작 향상 잠재력에 대해 경계된 낙관을 표현했다.
• 콘텐츠 제작자들은 AI 생성 콘텐츠로 인한 직업 대체와 편집 기준의 침식에 대한 우려를 제기했다.
• 유럽 연합 AI 법안 제52조의 투명성 의무에 대한 지지도 뉴스 소비자와 콘텐츠 제작자 사이에서 가장 강했으며, 개발자 그룹에서는 낮은 지지도를 보였다.
• 주제 분석을 통해 신뢰성 저하, 알고리즘적 확산, 노동시장 변화 등의 영향 군집이 확인되었으며, 각 군집에 대해 이해관계자 그룹별로 고유한 대응 전략이 제안되었다.
• 본 연구는 시나리오 작성 기법이 다양한 맥락 기반의 AI 영향 기대를 효과적으로 포착하며, 예측적 거버넌스를 위한 견고한 방법임을 입증한다.