[논문 리뷰] The Myths of Our Time: Fake News

Vít Růžička, Eunsu Kang외 4명|arXiv (Cornell University)|2019. 08. 05.

Misinformation and Its Impacts참고 문헌 6인용 수 6

한 줄 요약

이 논문은 인공지능 기반의 뉴스 생성 파이프라인을 제시하여, 정제된 뉴스 데이터셋으로 훈련된 LSTM 기반 언어 모델을 사용해 가짜 뉴스 기사를 미디어 아트의 형태로 생성한다. 이 프로젝트는 www.newsby.ml로 온라인 블로그 형태로 제공되며, 실제 가짜 뉴스의 스타일과 정서적 패턴을 모방함으로써 사회적 두려움과 욕망을 드러내며 향후 가짜 뉴스 탐지 연구를 위한 레이블이 부여된 데이터셋을 기여한다.

ABSTRACT

While the purpose of most fake news is misinformation and political propaganda, our team sees it as a new type of myth that is created by people in the age of internet identities and artificial intelligence. Seeking insights on the fear and desire hidden underneath these modified or generated stories, we use machine learning methods to generate fake articles and present them in the form of an online news blog. This paper aims to share the details of our pipeline and the techniques used for full generation of fake news, from dataset collection to presentation as a media art project on the internet.

연구 동기 및 목표

• 인공지능과 인터넷 문화가 현대의 '신화'로 간주되는 가짜 뉴스 유형을 어떻게 가능하게 하는지 탐구하기.
• 기계 학습을 사용해 재현 가능한 가짜 뉴스 기사 생성 파이프라인 개발하기.
• 생성된 기사를 웹 기반의 미디어 아트 프로젝트로 제시하여 오락성과 오염된 정보의 심리적 기반에 대한 반성 유도하기.
• 향후 가짜 뉴스 탐지 연구를 위한 레이블이 부여된 가짜 뉴스 데이터셋 기여하기.

제안 방법

• 주제별 검색 쿼리를 사용해 다양한 출처에서 245,973건의 뉴스 기사(총 196.95만 단어)를 수집하였다.
• NLP 도구를 활용해 키워드 기반 주제 태깅(예: '북한', '트럼프', '가짜 뉴스')를 통해 전문화된 서브셋을 생성하기 위해 데이터셋을 필터링하였다.
• 각 주제별 데이터셋에 대해 두 층의 아키텍처(128개 유닛)를 사용한 LSTM 언어 모델을 훈련하고, 텍스트 생성을 위해 빔 서치를 적용하였다.
• 훈련된 모델을 사용해 기사 요약문을 생성하였으며, 통일성과 구조적 일관성을 향상시키기 위해 최소한의 수동 편집을 적용하였다.
• Machinebox Textbox NLP 도구를 사용해 기사에 실감나는 태그를 자동으로 할당하였다.
• www.newsby.ml에 맞춤형으로 제작한 블로그에 생성된 콘텐츠를 배포하였으며, 허구의 기자 인물과 AI 생성 포트레이트를 포함하였다.

실험 결과

연구 질문

• RQ1 기계 학습 모델을 어떻게 활용해 실제 허위 정보의 스타일과 정서적 톤을 모방하는 가짜 뉴스 기사를 생성할 수 있는가?
• RQ2 현대의 가짜 뉴스가 디지털 신화의 새로운 형태로 자리 잡는 데 있어 사회적 두려움과 욕망이 콘텐츠와 구조에 어떤 역할을 하는가?
• RQ3 AI가 생성한 가짜 뉴스가 FakerFact와 같은 자동 신뢰성 검증 도구를 얼마나 효과적으로 회피할 수 있는가?
• RQ4 통제된 예술적 생성 파이프라인은 유행하는 허위 정보의 메커니즘을 이해하는 데 어떤 기여를 할 수 있는가?
• RQ5 공개적인 예술적 맥락에서 AI를 사용해 가짜 뉴스의 메커니즘을 시뮬레이션하고 폭 드러내는 데 있어 윤리적 함의는 무엇인가?

주요 결과

• FakerFact에 의해 생성된 가짜 뉴스 기사들은 의도적인 혹은 의견 중심의 기사로 분류되어 실제 허위 정보의 어조와 목적을 효과적으로 모방하고 있음을 확인하였다.
• 프로젝트는 세 가지 주제 카테고리에 걸쳐 245,973건의 생성된 기사가 포함된 기능성 있는 공개 블로그(www.newsby.ml)를 성공적으로 구축하였다.
• 주제별 LSTMs의 사용은 정치적으로 민감한 분야에서 실제 뉴스의 언어 패턴을 반영한 일관성 있고 이해할 수 있는 기사를 생성하는 데 기여하였다.
• 수동 간섭은 중복 단어 제거나 문장 파편 수정 수준으로 제한되어 있어 생성 결과의 강건성을 입증하였다.
• AI가 생성한 기자 신분(Misun Lean)과 포트레이트(PGGAN를 통해 생성)는 프로젝트의 현실감과 예술적 영향력을 높였다.
• 프로젝트는 향후 가짜 뉴스 탐지 및 생성 연구를 위한 레이블이 부여된 데이터셋을 GitHub에 기여하였다.