[論文レビュー] Generating Phishing Attacks using ChatGPT

Sayak Saha Roy, Krishna Vamsi Naragam+1 more|arXiv (Cornell University)|May 9, 2023

Spam and Phishing Detection被引用数 21

ひとこと要約

本論文は、プロンプトを工夫して ChatGPT に機能的なフィッシングウェブサイトのソースコードを生成させ、通常版および回避版を含み、50ブランドを名乗る偽装を行い、ホスティング、反復作業の労力、倫理的配慮について論じるものである。

ABSTRACT

The ability of ChatGPT to generate human-like responses and understand context has made it a popular tool for conversational agents, content creation, data analysis, and research and innovation. However, its effectiveness and ease of accessibility makes it a prime target for generating malicious content, such as phishing attacks, that can put users at risk. In this work, we identify several malicious prompts that can be provided to ChatGPT to generate functional phishing websites. Through an iterative approach, we find that these phishing websites can be made to imitate popular brands and emulate several evasive tactics that have been known to avoid detection by anti-phishing entities. These attacks can be generated using vanilla ChatGPT without the need of any prior adversarial exploits (jailbreaking).

研究の動機と目的

• ChatGPT のプロンプトが機能するフィッシングサイトを生成できるか評価する。
• 反フィッシング防御を回避する通常および回避的なフィッシング攻撃のバリエーションを特定する。
• このようなフィッシング攻撃を展開する際の実用性と必要なリソースを評価する。
• LLM ベースのフィッシングリスクに関する倫理的配慮と潜在的な防御影響を検討する。

提案手法

• プロンプトを設計、資格情報取得、悪用、資格情報転送オブジェクトの4つの機能的要素に分解する。
• 人気ブランドを名乗る通常版と8つの回避型フィッシング攻撃バリアントを生成するために、プロンプトを反復的にテストする。
• ChatGPT API (gpt-3.5-turbo) を使用して、フィッシングサイトの HTML、CSS、JS、PHP コードを生成する。
• 生成されたスクリプトを無料ホスティングプラットフォームにホストして、実用性と展開上の検討を評価する。

Figure 1 : Breaking down the prompt into functional objects to trick ChatGPT into generating the attack

実験結果

リサーチクエスチョン

• RQ1 プロンプトから ChatGPT が脱獄なしで機能するフィッシングサイトを生成できるか？
• RQ2 ChatGPT が反フィッシング検出を回避するために生み出せる回避技術の範囲はどの程度か。
• RQ3 これらのフィッシング攻撃を再現するために、異なるコーダーにはどれくらいの反復回数と労力が必要か。
• RQ4 このように生成されたフィッシングサイトの実用的なホスティング上の考慮事項と展開の影響は何か。

主な発見

• ChatGPT は 50 ブランドを対象とした通常のフィッシング攻撃コードと回避型の両方を生成できる。
• 実演されたさまざまな回避攻撃には、CAPTCHA ベース、QRコード、ブラウザー・イン・ザ・ブラウザー、iFrame/クリックジャッキング、DOM機能回避、ポリモーフィックURL、テキストエンコーディング、ブラウザフィンガープリントなどが含まれる。
• 平均して、セキュリティ専門知識が異なる3名のコーダーが攻撃を生成するために異なる反復を必要とし、各攻撃タイプごとの労力を示す反復回数の要約表が作成された。
• フィッシングサイトは無料プラットフォームにホストされ、展開性を評価し、攻撃者にとって費用対効果と迅速な展開の可能性を強調している。
• 研究は、外部画像がトレーニングのカットオフにより時代遅れになる可能性があり、フォローアップのプロンプトやリアルタイムツールを通じてリソースを更新できることを指摘している。

(a)