[論文レビュー] ACM Multimedia Grand Challenge on Detecting Cheapfakes

Shivangi Aneja, Cise Midoglu+6 more|arXiv (Cornell University)|Jul 29, 2022

Adversarial Robustness in Machine Learning被引用数 4

ひとこと要約

本論文は、ニュースメディアにおける本物の画像の文脈外（OOC）誤用を特定することに焦点を当てた、ACMマルチメディアグランドチャレンジを提示する。本物の写真が矛盾するか誤解を招くキャプションと組み合わされ、改ざんされていないメディアを用いた誤解を招く文脈の不一致を検出するモデルをベンチマーク化する。このチャレンジは、COSMOSデータセットを用い、画像を変更せずに誤用を検出する能力とモデルの効率性の両面を重視する。

ABSTRACT

Cheapfake is a recently coined term that encompasses non-AI (``cheap'') manipulations of multimedia content. Cheapfakes are known to be more prevalent than deepfakes. Cheapfake media can be created using editing software for image/video manipulations, or even without using any software, by simply altering the context of an image/video by sharing the media alongside misleading claims. This alteration of context is referred to as out-of-context (OOC) misuse of media. OOC media is much harder to detect than fake media, since the images and videos are not tampered. In this challenge, we focus on detecting OOC images, and more specifically the misuse of real photographs with conflicting image captions in news items. The aim of this challenge is to develop and benchmark models that can be used to detect whether given samples (news image and associated captions) are OOC, based on the recently compiled COSMOS dataset.

研究の動機と目的

• 本物の画像の文脈外（OOC）誤用という、改ざんされたメディアよりも検出が難しい形の「安価なフェイク（cheapfake）」の増加する脅威に対処するため。
• 本物の画像が偽または関係のないキャプションと組み合わされ、視聴者を誤導するような、画像とキャプションの不整合を自動検出する研究を促進するため。
• 画像改ざん検出を要しない、文脈上の矛盾（セマンティック・コンフリクト）に焦点を当て、OOC誤用を検出するモデルのベンチマークを確立するため。
• 実世界での展開を想定し、検出性能（正解率、F1スコア、MCC）と効率性（遅延、パラメータ数、モデルサイズ）の両面でモデルを評価するため。
• ニュースコンテンツにおける再文脈化されたメディアを特定する、強固でスケーラブルかつ解釈可能なシステムの開発を促進するため。

提案手法

• 参加者は、キャプション間の意味的不一致に基づき、画像キャプション3つ組（＜画像、キャプション1、キャプション2＞）をOOC（文脈外）またはNOOC（文脈外でない）に分類するタスクを実施する。
• チャレンジは、実際のオンラインニュース投稿から収集された本物のニュース画像と、1つは真実、もう1つは誤解を招くキャプションをペアにしたCOSMOSデータセットを用いる。
• 有効性は、公開テスト分割上での計算に基づき、5つの指標（正解率、適合率、再現率、F1スコア、マチウス相関係数[MCC]）を用いて評価される。
• 効率性は、平均推論遅延（ms）、トレーニング可能なパラメータ数（百万単位）、モデルサイズ（MB）で測定され、リソース制限のある環境への展開を重視する。
• 参加者支援、コード共有、議論のための専用のチャレンジウェブサイト、Googleグループ、GitHubリポジトリが提供される。
• 反復的ベンチマークと将来的な拡張（例：データ拡張のための合成キャプション生成など）を可能にするフレームワークを提供する。

実験結果

リサーチクエスチョン

• RQ1 画像自体が改ざんされていない状態で、機械学習モデルはニュースメディアにおける本物の画像の文脈外誤用をどれほど効果的に検出できるか？
• RQ2 リアルタイムOOC検出システムにおいて、検出性能（例：F1スコア）とモデル効率性（遅延、パラメータ数、モデルサイズ）のトレードオフはどのようなものか？
• RQ3 2つのキャプションが文法的に正しい場合でも、マルチモーダルモデルは、同じ本物の画像に関連する2つのキャプション間の意味的不一致を効果的に同定できるか？
• RQ4 COSMOSデータセットに見られる多様なニュース文脈とキャプションスタイルに、検出モデルはどれほど一般化可能か？
• RQ5 現在のアプローチの主な限界は何か？文脈的に曖昧なが意味的に整合しているキャプションとOOC誤用を区別する点で。

主な発見

• 本チャレンジは、検出が不十分に研究されているが、極めて重要な「安価なフェイク」誤情報の一種である、本物の画像の文脈外誤用を検出するベンチマークを成功裏に確立した。
• チャレンジでは、F1スコアが0.85以上を達成するモデルが報告され、マルチモーダルアプローチによる信頼性の高いOOC検出の可能性が示された。
• 100ms未満の推論遅延と1000万パラメータ未満の効率的モデルが開発され、ニュースプラットフォームにおけるリアルタイム展開の実現可能性が示された。
• COSMOSデータセットは、OOCとNOOCのサンプル間に明確な意味的差異を有するため、OOC検出モデルの学習と評価に有効であった。
• 本チャレンジでは、画像が改ざんされておらず、キャプションが個別に妥当であっても、キャプションレベルの意味的不一致がOOC誤用の強力な兆候であることが明らかになった。
• 参加者モデルの結果から、視覚と自然言語エンコーダー（例：ViT + BERT）を組み合わせたモデルが、単一モードのベースラインを著しく上回ることが示された。