[論文レビュー] AI-Powered Social Bots

Terrence Adams|arXiv (Cornell University)|Jun 16, 2017

Adversarial Robustness in Machine Learning参考文献 14被引用数 5

ひとこと要約

この論文は、深層学習および生成対抗ネットワーク（GANs）を用いて、人間らしいテキスト、音声、画像を生成できるAI駆動のソーシャルボットの出現を調査している。マルチモーダルで適応的なボット—自然言語処理（NLP）、音声合成、コンピュータビジョン分野の進展によって駆動される—は、スケールを伴う人間の行動を模倣でき、一貫したフェイク情報キャンペーンに対する深刻なリスクをもたらす。

ABSTRACT

This paper gives an overview of impersonation bots that generate output in one, or possibly, multiple modalities. We also discuss rapidly advancing areas of machine learning and artificial intelligence that could lead to frighteningly powerful new multi-modal social bots. Our main conclusion is that most commonly known bots are one dimensional (i.e., chatterbot), and far from deceiving serious interrogators. However, using recent advances in machine learning, it is possible to unleash incredibly powerful, human-like armies of social bots, in potentially well coordinated campaigns of deception and influence.

研究の動機と目的

• 現代のAI駆動のソーシャルボットの進化と能力を分析すること、特にソーシャルメディアにおけるインフルエンス作戦の文脈で。
• 最近の深層学習およびマルチモーダルAIの進展が、テキスト、音声、視覚的モダリティの分野で、非常にリアルで人間らしいボットの作成を可能にする仕組みを調査すること。
• 意図的で一貫したボットネットワークが、だましや大規模なインフルエンスキャンペーンを実行できるというリスクを評価すること。
• GANs、LSTMs、強化学習といった技術的基盤が、ますます洗練されたボット行動を可能にする仕組みを検討すること。

提案手法

• 特に深層畳み込み型および再帰型アーキテクチャ（例：LSTMs）を用いて、人間らしいテキストおよび音声の処理と生成を行う深層ニューラルネットワークを活用する。
• 生成対抗ネットワーク（GANs）を用いて、識別不能な合成データ（例：画像、声）を生成するジェネレーターネットワークを訓練する。
• AlphaGoで用いられるような強化学習技術を応用し、複雑で相互作用的な環境におけるボット行動を最適化する。
• NLP、音声合成（例：WaveNet）、顔面アニメーションを統合するマルチモーダル学習フレームワークを採用し、統一的かつリアルなソーシャルボットのアイデンティティを構築する。
• 大規模なラベル付きデータセット（例：ImageNet、Megaface）および分散コンピューティングを活用して、数百万のパラメータを持つ高容量モデルを訓練する。
• 敵対的訓練を実施：識別ネットワークDが生成出力を評価し、ジェネレーターネットワークGがDをだますように改善する。

実験結果

リサーチクエスチョン

• RQ1 最近のAIモデルは、本物の人間の出力と区別がつかないほど、人間らしいテキスト、音声、視覚的コンテンツをどの程度生成できるか？
• RQ2 GANsおよび深層ニューラルネットワークの進歩が、一貫しただましを可能にするマルチモーダルなソーシャルボットの創出をどのように可能にするか？
• RQ3 AIボットがテキスト、音声、画像の複数モダリティにわたり人間の行動を模倣できる技術的およびアーキテクチャ的基盤は何か？
• RQ4 スケーラブルで自律的なボットネットワークが、ソーシャルメディアにおけるインフルエンス、政治的操作、情報戦に与える影響は何か？

主な発見

• 154層を超える最近の深層学習モデルは、画像認識分野で最先端の性能を達成しており、深層アーキテクチャの強力さを示している。
• GoogleのMegafaceデータベース（5億枚の顔画像）のおかげで、顔認識の高精度化が実現し、高精細度AIに必要なデータ規模の大きさが浮き彫りになった。
• WaveNetやLyrebirdは、合成音声が本物の人間の声に非常に近く、トレーニングデータとモデル容量が増加するにつれてリアルさが向上することを示している。
• 生成対抗ネットワーク（GANs）は、合成された寝室の写真など、写真のようにリアルな画像を生成でき、偽の視覚的コンテンツを生成する可能性を示している。
• AlphaGoのような強化学習システムは、複雑な戦略的環境で人間を上回る性能を達成しており、同様の手法がソーシャルインフルエンスのためのボット訓練に応用可能である可能性を示唆している。
• NLP、音声合成、視覚的生成の統合により、テキスト、音声、動画の分野で人間らしい対話を模倣できるマルチモーダルなソーシャルボットの創出が可能になった。