[논문 리뷰] The Emerging Threats of Deepfake Attacks and Countermeasures

Shadrack Awah Buo|arXiv (Cornell University)|2020. 01. 01.

Advanced Malware Detection Techniques참고 문헌 22인용 수 19

한 줄 요약

이 논문은 딥페이크 기술이 사이버 범죄, 허위 정보 유포 및 증거 조작을 가능하게 하는 증가하는 위협을 분석하며, 컨volution 뉴럴 네트워크(CNNs)를 활용한 AI 기반 탐지, 디지털 포렌식스, 블록체인 기반 진위성 추적, 기관 내 교육을 포함한 다층적 대응 전략을 제안한다. 연구는 딥페이크 위험을 완화하기 위해 기술적, 법적, 교육적 전략의 조합이 필수적임을 결론 내리며, 향후 연구는 확장 가능한 탐지 도구에 집중할 것임을 시사한다.

ABSTRACT

Deepfake technology (DT) has taken a new level of sophistication. Cybercriminals now can manipulate sounds, images, and videos to defraud and misinform individuals and businesses. This represents a growing threat to international institutions and individuals which needs to be addressed. This paper provides an overview of deepfakes, their benefits to society, and how DT works. Highlights the threats that are presented by deepfakes to businesses, politics, and judicial systems worldwide. Additionally, the paper will explore potential solutions to deepfakes and conclude with future research direction.

연구 동기 및 목표

• 글로벌 기관, 특히 기업, 정치 제도 및 사법 절차에 대한 딥페이크 기술(DT)의 부정적 영향을 조사하기 위해.
• 생성적 적대적 네트워크(GANs)를 사용해 딥페이크가 어떻게 생성되는지와 비전문가가 쉽게 사용할 수 있는 도구의 확산이 미치는 영향을 분석하기 위해.
• 딥페이크 위협을 탐지하고 완화하기 위한 기존 기술적 및 정책 기반 해결책을 평가하기 위해.
• 딥페이크 규제와 표현의 자유를 유지하는 것 사이의 균형을 탐색하기 위해.
• 확장 가능하고 정확하며 접근성이 높은 딥페이크 탐지 기술을 위한 향후 연구 방향을 식별하기 위해.

제안 방법

• 생성자와 판별자가 상호 작용하는 생성적 적대적 네트워크(GANs)를 활용하며, 생성자가 딥페이크를 생성하고 판별자가 진위성을 평가함으로써 점차 현실성 있는 결과를 향해 향상된다.
• 컨volution 뉴럴 네트워크(CNNs)를 활용해 이미지 픽셀의 이질성, 예를 들어 비자연스러운 그림자나 압축 잔상 등을 탐지함으로써 딥페이크를 식별한다.
• 디지털 포렌식스 기법을 적용해 미디어 파일의 메타데이터 및 편집 이력 분석을 통해 조작 여부를 확인한다.
• 시간 스탬프가 찍힌 로그와 스마트 컨트랙트를 활용해 미디어 기원을 추적하고 진위성을 보장하는 블록체인 기반 솔루션을 제안한다.
• 재정 이체에 대한 이중 확인 제도 및 생체 정보 데이터의 공개 접근 제한과 같은 기관 정책을 권장한다.
• 탐지 혁신을 가속화하기 위해 공공-민간 파트너십과 커뮤니티 기반 챌린지(예: 페이스북과 마이크로소프트의 1,000만 달러 탐지 챌린지)를 추진한다.

실험 결과

연구 질문

• RQ1 딥페이크 기술이 기업, 정치 기관 및 司법 제도에 초래하는 주요 위협은 무엇인가?
• RQ2 GANs와 같은 딥페이크 기술이 어떻게 고도로 현실적인 변조 미디어를 생성할 수 있게 하는가?
• RQ3 딥페이크의 정교함이 증가함에 따라 기존의 CNN 및 디지털 포렌식스 방법의 한계는 무엇인가?
• RQ4 블록체인 기반의 추적성 및 투명성 메커니즘이 디지털 미디어의 진위성을 효과적으로 확인하고 위조를 방지하는 데 기여할 수 있는가?
• RQ5 교육, 정책 및 규제가 표현의 자유를 침해하지 않으면서 딥페이크 위험을 완화하는 데 어떤 역할을 해야 하는가?

주요 결과

• 딥페이크 공격은 벌써 CEO 위장 사기로 220,000달러의 손실을 야기했으며, 2020년까지 2,500만 달러의 손실이 예상된다.
• CNN 기반 탐지 방법은 저해상도 딥페이크를 식별하는 데 99.1%의 정확도를 달성했지만, 딥페이크의 품질 향상에 따라 그 효과가 감소한다.
• 디지털 포렌식스는 픽셀 구조 및 메타데이터의 이질성을 탐지할 수 있지만 전문 팀과 고비용 도구가 필요하므로, 클라우드 기반의 '포렌식스 as a service' 모델 제안이 제기된다.
• 블록체인 기반의 진위성 추적은 투명하고 감사 가능한 방식으로 미디어 기원을 확인할 수 있지만, 확장성 문제와 가짜 경고 위험에 직면해 있다.
• 이중 확인 제도 및 생체 정보 데이터 접근 제한과 같은 조직적 조치는 딥페이크 기반 사회공학 공격의 위험을 크게 감소시킨다.
• 향후 탐지 노력은 확장 가능하고 공공이 접근 가능한 도구를 우선시해야 하며, 페이스북과 마이크로소프트가 공동으로 추진한 1,000만 달러 규모의 공개 챌린지가 이를 뒷받침한다.