[論文レビュー] INADVERT: An Interactive and Adaptive Counterdeception Platform for Attention Enhancement and Phishing Prevention.

Linan Huang, Quanyan Zhu|arXiv (Cornell University)|Jun 13, 2021

Spam and Phishing Detection参考文献 21被引用数 4

ひとこと要約

INADVERT は、リアルタイムの眼動-tracking と強化学習を活用して、動的な視覚的アシストを通じてユーザーの注意を高め、フィッシング攻撃を防止するインタラクティブで適応型のプラットフォームである。眼動データを分析し、ベイズ最適化によってハイパーパrameterを最適化することで、ユーザーのフィッシング認識精度を向上させるとともに、注意の変動に適応する。

ABSTRACT

Deceptive attacks exploiting the innate and the acquired vulnerabilities of human users have posed severe threats to information and infrastructure security. This work proposes INADVERT, a systematic solution that generates interactive visual aids in real-time to prevent users from inadvertence and counter visual-deception attacks. Based on the eye-tracking outcomes and proper data compression, the INADVERT platform automatically adapts the visual aids to the user's varying attention status captured by the gaze location and duration. We extract system-level metrics to evaluate the user's average attention level and characterize the magnitude and frequency of the user's mind-wandering behaviors. These metrics contribute to an adaptive enhancement of the user's attention through reinforcement learning. To determine the optimal hyper-parameters in the attention enhancement mechanism, we develop an algorithm based on Bayesian optimization to efficiently update the design of the INADVERT platform and maximize the accuracy of the users' phishing recognition.

研究の動機と目的

• 情報セキュリティにおける人間の認知的脆弱性を悪用するだましの攻撃が増加するという脅威に対処すること。
• ユーザーの心の遊離や不注意状態を、フィッシングシナリオ中に前もって検出・緩和するシステムを開発すること。
• 眼動追跡から得られるユーザーの注意状態に基づいて、視覚的アシストをリアルタイムで適応させること。
• ベイズ最適化を用いて注意向上メカニズムのハイパーパrameterを最適化し、フィッシング検出精度を向上させること。

提案手法

• ユーザーの注意の指標として、注視位置と注視時間の両方をリアルタイムで監視するため、眼動追跡データを活用する。
• システムの応答性を確保するため、眼動データを効率的に処理・分析するためのデータ圧縮技術を適用する。
• 平均的な注意レベルや心の遊離の頻度・持続時間を定量化するためのシステムレベルのメトリクスを抽出する。
• リアルタイムでの注意フィードバックに基づいて、視覚的アシストを動的に調整するため、強化学習を適用する。
• 注意向上メカニズムのハイパーパrameterを自動的にチューニングするため、ベイズ最適化を実装する。
• 視覚的アシストの生成機能をプラットフォームに統合し、リアルタイムで視覚的だましの攻撃に対抗する。

実験結果

リサーチクエスチョン

• RQ1 リアルタイムでの眼動追跡を活用して、フィッシングシミュレーション中にユーザーの不注意状態を検出し、それに応じて対応できるか。
• RQ2 インタラクティブなセキュリティタスクにおけるユーザーの注意状態と心の遊離行動を特徴付ける最適なシステムレベルのメトリクスは何か。
• RQ3 強化学習を用いることで、適応型の視覚フィードバックにより、ユーザーの注意状態とフィッシング認識精度をどの程度向上できるか。
• RQ4 ベイズ最適化は、注意向上メカニズムの設計とパフォーマンスにどのように寄与するか。

主な発見

• 注視時間や注視位置のパターンといった眼動ベースのメトリクスを用いて、プラットフォームはユーザーの注意の欠落を成功裏に特定した。
• 強化学習により、視覚的アシストの動的適応が可能となり、ユーザーの注意の安定性が明確に向上した。
• ベイズ最適化により、注意向上メカニズムの最適なハイパーパrameterが効率的に特定され、手動チューニングの必要が減少した。
• 個々の注意状態に応じたリアルタイムの視覚フィードバックにより、システムはフィッシング認識精度が向上した。