[논문 리뷰] AI-Powered Social Bots

Terrence Adams|arXiv (Cornell University)|2017. 06. 16.

Adversarial Robustness in Machine Learning참고 문헌 14인용 수 5

한 줄 요약

이 논문은 딥 러닝과 생성적 적대적 네트워크(GANs)를 사용하여 인간처럼 문장, 음성, 이미지를 생성할 수 있는 AI 기반 사회 봇의 출현을 탐구한다. 다중 모odal, 적응형 봇이 NLP, 음성 합성, 컴퓨터 비전 분야의 발전에 기반해 스케일링된 인간의 행동을 시뮬레이션할 수 있음을 보여주며, 이는 조직적인 가짜 정보 유포 캠페인에 심각한 위협을 가한다.

ABSTRACT

This paper gives an overview of impersonation bots that generate output in one, or possibly, multiple modalities. We also discuss rapidly advancing areas of machine learning and artificial intelligence that could lead to frighteningly powerful new multi-modal social bots. Our main conclusion is that most commonly known bots are one dimensional (i.e., chatterbot), and far from deceiving serious interrogators. However, using recent advances in machine learning, it is possible to unleash incredibly powerful, human-like armies of social bots, in potentially well coordinated campaigns of deception and influence.

연구 동기 및 목표

• 현대의 AI 기반 사회 봇의 발전 과정과 능력을 분석하고, 특히 소셜 미디어 영향 작전의 맥락에서 이를 고려한다.
• 최근의 딥 러닝 및 다중 모달 AI의 발전이 텍스트, 음성, 시각적 모odal 전반에서 매우 현실적인 인간처럼 보이는 봇을 생성할 수 있도록 하는 방식을 조사한다.
• 자율적이고 조율된 봇 네트워크가 기만과 대규모 영향 캠페인을 펼 수 있는 위험을 평가한다.
• GANs, LSTMs, 강화 학습 등 봇 행동의 점차 진화하는 복잡성을 가능하게 하는 기술적 기초—예를 들어—를 검토한다.

제안 방법

• 딥 컨volution 및 순환 아키텍처(LSTM 등)를 포함한 딥 신경망을 활용해 인간처럼 보이는 텍스트와 음성을 처리하고 생성한다.
• 생성적 적대적 네트워크(GANs)를 적용해 가짜 데이터(예: 이미지, 목소리)를 생성할 수 있는 생성자 네트워크를 훈련시킨다. 이는 실제 인간의 콘텐츠와 구분이 가지 않도록 한다.
• 알파고에서 사용된 것과 같은 강화 학습 기법을 활용해 복잡하고 상호작용적인 환경에서 봇 행동을 최적화한다.
• NLP, 음성 합성(WaveNet 등), 얼굴 애니메이션을 통합하는 다중 모달 학습 프레임워크를 적용해 통합적이고 현실적인 사회 봇 인물을 창출한다.
• 대규모 레이블링된 데이터셋(ImageNet, Megaface 등)과 분산 컴퓨팅을 활용해 수백만 개의 파rameter를 가진 고용량 모델을 훈련시킨다.
• 적대적 훈련을 사용: 판별자 네트워크 D는 생성된 출력을 평가하고, 생성자 네트워크 G는 D를 속일 수 있도록 데이터를 개선한다.

실험 결과

연구 질문

• RQ1 최근의 AI 모델이 인간처럼 보이는 텍스트, 음성, 시각 콘텐츠를 얼마나 정확하게 생성할 수 있으며, 이는 진짜 인간의 출력과 구분이 가지 않는 정도까지 도달하는가?
• RQ2 GANs와 딥 뉴럴 네트워크의 발전이 다중 모달 사회 봇을 만들어내어 조직적인 기만을 가능하게 하는가?
• RQ3 AI 봇이 텍스트, 음성, 이미지 등 여러 모달 전반에서 인간의 행동을 시뮬레이션할 수 있도록 하는 기술적 및 아키텍처적 기초는 무엇인가?
• RQ4 확장 가능한 자율적 봇 네트워크가 소셜 미디어 영향력 행사, 정치적 조작, 정보 전쟁에 미치는 영향은 무엇인가?

주요 결과

• 154층이 넘는 최근의 딥 러닝 모델은 이미지 인식 분야에서 최상의 성능을 기록하며 깊이 있는 아키텍처의 힘을 입증했다.
• Google의 5억 개의 얼굴 이미지로 구성된 메가페이스 데이터베이스는 매우 정확한 얼굴 인식을 가능하게 하여 고해상도 AI를 위해 필요한 데이터의 규모를 강조한다.
• WaveNet과 라이어버드는 합성 음성이 실제 인간의 목소리와 매우 유사하게 구현되었으며, 훈련 데이터와 모델 용량이 증가할수록 현실성이 높아지고 있다.
• 생성적 적대적 네트워크(GANs)는 사진처럼 사실적인 이미지(예: 가짜 침실)를 생성할 수 있어 위조된 시각 콘텐츠를 생성할 잠재력이 있음을 보여준다.
• 알파고와 같은 강화 학습 시스템은 복잡한 전략적 환경에서 초인 수준의 성능을 달성했으며, 이는 유사한 방법이 사회적 영향력 확보를 위한 봇 훈련에 적용될 수 있음을 시사한다.
• NLP, 음성 합성, 시각적 생성의 융합은 텍스트, 음성, 영상 전반에서 인간처럼 상호작용할 수 있는 다중 모달 사회 봇을 창출할 수 있음을 보여준다.