[논문 리뷰] Envisioning the Applications and Implications of Generative AI for News Media

Sachita Nishal, Nicholas Diakopoulos|arXiv (Cornell University)|2024. 02. 29.

Computational and Text Analysis Methods인용 수 13

한 줄 요약

생성형 AI가 새룸(뉴스룸)에서 취재 및 제작 전반을 보강하는 방법을 탐구하면서 윤리적이고 가치 주도적인 설계 고려사항 및 저널리즘 규범과의 잠재적 긴장을 개략한다.

ABSTRACT

This article considers the increasing use of algorithmic decision-support systems and synthetic media in the newsroom, and explores how generative models can help reporters and editors across a range of tasks from the conception of a news story to its distribution. Specifically, we draw from a taxonomy of tasks associated with news production, and discuss where generative models could appropriately support reporters, the journalistic and ethical values that must be preserved within these interactions, and the resulting implications for design contributions in this area in the future. Our essay is relevant to practitioners and researchers as they consider using generative AI systems to support different tasks and workflows.

연구 동기 및 목표

• 생성형 AI의 이점을 얻을 수 있는 뉴스 제작 작업 식별
• 저널리즘적 주체성과 창의성에 미칠 잠재적 영향 명확화
• 뉴스룸에서 AI 설계를 안내할 편집 및 저널리즘 가치 제시
• 저널리즘에서 효과적인 인간-AI 협업을 지원하는 상호작용 모드 제안
• 뉴스룸에 생성형 AI를 배치할 때의 윤리적 고려사항과 위험 강조

제안 방법

• AI 지원이 가능한 작업을 매핑하기 위한 업계 배치 사례(CNET, Men’s Journal) 및 AP 인터뷰를 검토
• newsgathering, production, distribution, and business의 네 가지 주요 작업 영역에 대한 논의와 특히 newsgathering과 production에의 강조
• 신문사 워크플로우 내 AI 보조 요약, 질의, 협업 작문의 이점과 위험 분석
• 설계 및 평가에서의 저널리즘 가치, 신뢰, AI 환각 현상 위험 고려
• 주체성, 투명성 및 신중한 사용을 강화하기 위한 사용자 인터페이스 디자인 원칙 제안

실험 결과

연구 질문

• RQ1 newsgathering 및 production 파이프라인에서 생성형 AI 지원으로 이익을 얻을 수 있는 뉴스룸 작업은 무엇인가?
• RQ2 저널리즘 주체성, 창의성 및 편집 독립성에 대한 AI 보조 도구의 함의는 무엇인가?
• RQ3 뉴스룸에서 생성형 AI 시스템의 설계 및 평가를 이끌 저널리즘 가치은 무엇인가?
• RQ4 신문 생산에서 신뢰할 수 있고 효과적인 인간-AI 협업을 가장 잘 지원하는 상호작용 모드는 무엇인가?
• RQ5 저널리즘에서 생성형 AI의 채택에 영향을 미치는 윤리적, 실용적 및 경제적 제약은 무엇인가?

주요 결과

• 생성형 AI는 비구조적 텍스트의 추출적/추상적 요약 및 챗봇형 질의를 통한 취재 과정에서 콘텐츠 발견 및 의미 파악을 보완할 수 있다
• AI 보조 작문 지원은 초안을 신속히 시작하고 편집을 점진적으로 제안할 수 있지만 사실성 보장을 위해 인간의 감독이 필요하다
• AI 환각 현상, 과도한 의존 및 모델 편향은 저널리즘의 객관성과 신뢰성에 위험을 초래하므로 인터페이스의 투명성과 불확실성 표현이 필요하다
• 저널리스트는 인간 감독, 출처 기밀성, 저비용·저학습 곡선 도구를 중요하게 여기며 이는 뉴스룸에서의 AI 설계 선택에 방향을 제시한다
• 인터페이스 설계는 AI 출력이 뉴스 가치(예: 논란성, 참신성)와 일치하도록 하고 편집에 대한 설명을 제공해 기자의 주체성을 유지해야 한다
• 자동화는 일상적 작업과 빠른 순환 콘텐츠에 더 적합하며 미묘한 탐사 보도나 특집 기사 작성을 대체하지 않는다