[論文レビュー] Seeing is Living? Rethinking the Security of Facial Liveness Verification in the Deepfake Era

Changjiang Li, Li Wang+5 more|arXiv (Cornell University)|Feb 22, 2022

Face recognition and analysis被引用数 13

ひとこと要約

本論文は、実世界の状況における顔認識生体認証（FLV）のセキュリティを評価するための、ディープフェイク技術を活用した新規フレームワークLiveBuggerを紹介する。本研究では、多くの商用FLV APIがディープフェイク攻撃に対して極めて脆弱であることが明らかになった。多くの場合、効果的なディープフェイク対策が講じられていない。著者らはさらに、成功率を最大70％まで向上させる二段階攻撃手法を提案し、実アプリケーションにおける実用的攻撃の可能性を示した。

ABSTRACT

Facial Liveness Verification (FLV) is widely used for identity authentication in many security-sensitive domains and offered as Platform-as-a-Service (PaaS) by leading cloud vendors. Yet, with the rapid advances in synthetic media techniques (e.g., deepfake), the security of FLV is facing unprecedented challenges, about which little is known thus far. To bridge this gap, in this paper, we conduct the first systematic study on the security of FLV in real-world settings. Specifically, we present LiveBugger, a new deepfake-powered attack framework that enables customizable, automated security evaluation of FLV. Leveraging LiveBugger, we perform a comprehensive empirical assessment of representative FLV platforms, leading to a set of interesting findings. For instance, most FLV APIs do not use anti-deepfake detection; even for those with such defenses, their effectiveness is concerning (e.g., it may detect high-quality synthesized videos but fail to detect low-quality ones). We then conduct an in-depth analysis of the factors impacting the attack performance of LiveBugger: a) the bias (e.g., gender or race) in FLV can be exploited to select victims; b) adversarial training makes deepfake more effective to bypass FLV; c) the input quality has a varying influence on different deepfake techniques to bypass FLV. Based on these findings, we propose a customized, two-stage approach that can boost the attack success rate by up to 70%. Further, we run proof-of-concept attacks on several representative applications of FLV (i.e., the clients of FLV APIs) to illustrate the practical implications: due to the vulnerability of the APIs, many downstream applications are vulnerable to deepfake. Finally, we discuss potential countermeasures to improve the security of FLV. Our findings have been confirmed by the corresponding vendors.

研究の動機と目的

• 進化するディープフェイク技術の影響を受ける実世界の顔認識生体認証（FLV）APIのセキュリティを体系的かつ包括的に評価すること。
• 展開済みのFLVシステムに対するディープフェイク攻撃の効果に影響を与える要因を同定・分析すること。
• 実世界のアプリケーションにおけるFLV脆弱性を実証的に攻撃することで、その実用的影響を示すこと。
• 現代の偽造メディア脅威に対するFLVサービスのセキュリティ向上に向けた実用的かつ具体的な提言を提供すること。

提案手法

• 実世界のFLVセキュリティ評価に適した最新のディープフェイク技術を統合した、カスタマイズ可能で自動化されたフレームワーク「LiveBugger」の設計および実装。
• 主要なクラウドPaaSプロバイダーの代表的な商用FLV APIを対象に、大規模な実証的評価を実施。
• ディープフェイク技術、入力品質、および文化的要因（例：性別、人種）を変化させることで、攻撃の有効性を詳細に分析。
• FLVシステムの挙動に基づいてディープフェイク生成を最適化する二段階攻撃戦略を導入し、回避成功率を最大70％まで向上。
• 実際のクライアントアプリケーションを対象にプロトタイプ攻撃を実施し、FLV脆弱性の実用的影響を検証。
• ベンダーと協力して結果を確認し、実証的結果に基づいたセキュリティ提言を提供。

実験結果

リサーチクエスチョン

• RQ1 RQ1: 実世界に展開されたシステムにおける顔認識生体認証（FLV）は、ディープフェイク攻撃に対してどれほど脆弱であるか？
• RQ2 RQ2: 異なるディープフェイク技術は、FLVシステムの回避においてどの程度の有効性を示すか？
• RQ3 RQ3: ディープフェイクベースの攻撃の成功率に影響を与える主な要因は何か？
• RQ4 RQ4: 新たなディープフェイク脅威を踏まえて、実務家はFLVシステムのセキュリティをどのように強化できるか？

主な発見

• 多くの商用FLV APIは、効果的なディープフェイク検知メカニズムを導入しておらず、合成メディア攻撃に対して極めて脆弱である。
• ディープフェイク検知を主張するFLVシステムですら、防御の整合性が乏しく、高品質な偽物は検知できるが、低品質な偽物は検知できないケースが多数存在する。
• FLVシステムにおける文化的バイアス（性別・人種）は、攻撃者が脆弱な標的を性別や人種に基づいて選別可能にしている。
• ディープフェイクモデルの adversarial 訓練は、FLVシステムを回避する能力を著しく向上させる。
• 入力品質は、異なるディープフェイク技術において攻撃成功率に異なる影響を及ぼす。一部の手法は低品質入力に対しても耐性が高い。
• カスタマイズされた二段階攻撃アプローチにより、ベースライン手法と比較してFLVシステムの回避成功率が最大70％まで向上した。