[논문 리뷰] Fake News, Disinformation, and Deepfakes: Leveraging Distributed Ledger Technologies and Blockchain to Combat Digital Deception and Counterfeit Reality

Paula Fraga‐Lamas, Tiago M. Fernández‐Caramés|arXiv (Cornell University)|2019. 04. 10.

Blockchain Technology Applications and Security참고 문헌 13인용 수 87

한 줄 요약

이 논문은 분산원장기술(DLTs), 특히 블록체인을 활용하여 가짜 뉴스, 오락성 정보 및 딥페이크를 방지하고자 하며, 탈중앙화되고 투명하며 검증 가능한 거래 기록을 통해 데이터 기원, 추적 가능성 및 변하지 않는 성질을 보장한다. 주요 기여는 DLT를 활용한 미디어의 진위성과 감사 가능성 향상을 위한 종합적인 프레임워크를 제안하는 것으로, 확장성, GDPR 준수 및 탐지에 대한 인공지능과의 통합과 같은 핵심 과제를 밝혀낸다.

ABSTRACT

The rise of ubiquitous deepfakes, misinformation, disinformation, propaganda and post-truth, often referred to as fake news, raises concerns over the role of Internet and social media in modern democratic societies. Due to its rapid and widespread diffusion, digital deception has not only an individual or societal cost (e.g., to hamper the integrity of elections), but it can lead to significant economic losses (e.g., to affect stock market performance) or to risks to national security. Blockchain and other Distributed Ledger Technologies (DLTs) guarantee the provenance, authenticity and traceability of data by providing a transparent, immutable and verifiable record of transactions while creating a peer-to-peer secure platform for storing and exchanging information. This overview aims to explore the potential of DLTs and blockchain to combat digital deception, reviewing initiatives that are currently under development and identifying their main current challenges. Moreover, some recommendations are enumerated to guide future researchers on issues that will have to be tackled to face fake news, disinformation and deepfakes, as an integral part of strengthening the resilience against cyber-threats on today's online media.

연구 동기 및 목표

• 민주적 제도와 언론에 대한 신뢰를 훼손하는 가짜 뉴스와 딥페이크를 포함한 디지털 기만의 증가하는 위협에 대응한다.
• DLT가 디지털 콘텐츠의 기원과 무결성을 검증할 수 있도록 변하지 않는, 투명하고 탈중앙화된 기록을 제공하는 방식을 설명한다.
• 미디어 진위성과 사이버보안을 위한 DLT의 구현에 있어 핵심 기술적 및 규제 과제를 규명한다.
• GDPR 준수, 양자 공격에 대한 취약성, 하이브리드 AI-DLT 시스템의 필요성과 같은 열린 문제들을 제시함으로써 향후 연구를 이끌어낸다.
• 책임성 향상과 위조 현실의 확산 감소를 위해 DLT를 미디어 생태계에 통합하는 통합적 프레임워크를 제안한다.

제안 방법

• 디지털 콘텐츠 생성 및 공유의 변하지 않는, 시간이 기록된 로그를 생성하기 위해 블록체인과 DLT를 활용하여 데이터 기원을 보장한다.
• 내용 유사도 탐지 및 변조된 미디어 탐지에 기여하기 위해 암호학적 해시(지각 해시 포함)를 구현한다.
• 암호학적 해시 비교 외에도 시기적 패턴, 지리적 위치, 사회적 맥락 등의 맥락 메타데이터를 통합하여 미디어의 진위성을 검증한다.
• 미디어 추적 가능성 워크로드에 맞게 최적화된 합의 메커니즘과 탈중앙화 수준을 갖춘 DLT 아키텍처를 설계한다.
• 스케일링된 수준에서 의미적 콘텐츠 분석과 변조 탐지를 위해 DLT와 AI/NLP를 융합한 하이브리드 시스템을 제안한다.
• 콘텐츠와 트랜잭션 로그를 암호화하여 보안을 확보하면서도 감사 가능성과 액세스 제어를 보장한다.

실험 결과

연구 질문

• RQ1 광범위한 오락성 정보에 대비하여 DLT가 디지털 미디어의 기원과 추적 가능성 확보에 효과적으로 활용될 수 있는 방법은 무엇인가?
• RQ2 가짜 뉴스와 딥페이크를 방지하기 위한 DLT 기반 시스템을 구현함에 있어 핵심 기술적 및 규제 과제는 무엇인가?
• RQ3 DLT는 어떻게 AI와 NLP와 통합되어 변조된 콘텐츠의 탐지 및 검증을 향상시킬 수 있는가?
• RQ4 DLT는 데이터 주체의 권리와 데이터 익명화 측면에서 GDPR 준수에 어떤 영향을 미치는가?
• RQ5 소셜 미디어 생태계에서 콘텐츠 모더레이션, 표현의 자유 및 개인정보 보호를 균형 있게 유지하기 위해 DLT 기반 시스템은 어떻게 설계되어야 하는가?

주요 결과

• DLT는 데이터 기원과 불변성을 보장하는 견고한 기반을 제공하여 디지털 콘텐츠에 대한 투명하고 검증 가능한 감사 기록을 가능하게 한다.
• 지각 해시와 의미 유사성 인덱스는 암호학적 해시가 미세한 변경으로 인해 다를 경우에도 변조된 콘텐츠를 탐지하는 데 도움이 된다.
• 현재 DLT는 합의 알고리즘의 제약로 인해 고성능 미디어 워크로드에서 확장성과 성능에 한계를 보인다.
• GDPR 준수 문제는 여전히 주요 과제로 남아 있으며, 특히 불변 레지스트리에서 데이터 통제자 책임과 삭제 요구 권리 이행에 어려움이 있다.
• 양자 공격에 대한 취약성이 존재하므로 향후 DLT 시스템에 대해 양자 공격에 강건한 암호 기법이 필수적이다.
• 단독으로 DLT 시스템은 콘텐츠의 진위성을 검증할 수 없으며, 데이터 위변조 공격에 대비하기 위해 맥락 메타데이터와 AI 기반 분석과의 융합이 필요하다.