[論文レビュー] Towards a Robust Deep Neural Network in Text Domain A Survey

Wenqi Wang, Lina Wang+3 more|arXiv (Cornell University)|Feb 12, 2019

Adversarial Robustness in Machine Learning参考文献 77被引用数 4

ひとこと要約

本サーベイは、自然言語処理における adversarial 攻撃と防御について包括的な分析を提供し、NLP タスク別に攻撃を分類し、テストと検証を用いた堅牢な DNN 訓練の手法を提案する。主な課題を特定し、テキストベースの adversarial robustness 分野における今後の研究方向性を提示する。

ABSTRACT

Deep neural networks (DNNs) have achieved remarkable success in various tasks (e.g., image classification, speech recognition, and natural language processing). However, researches have shown that DNN models are vulnerable to adversarial examples, which cause incorrect predictions by adding imperceptible perturbations into normal inputs. Studies on adversarial examples in image domain have been well investigated, but in texts the research is not enough, let alone a comprehensive survey in this field. In this paper, we aim at presenting a comprehensive understanding of adversarial attacks and corresponding mitigation strategies in texts. Specifically, we first give a taxonomy of adversarial attacks and defenses in texts from the perspective of different natural language processing (NLP) tasks, and then introduce how to build a robust DNN model via testing and verification. Finally, we discuss the existing challenges of adversarial attacks and defenses in texts and present the future research directions in this emerging field.

研究の動機と目的

• テキストベースの深層ニューラルネットワークにおける adversarial robustness の体系的Understanding の増大するニーズに対応すること。
• テキスト分類やシーケンスラベリングなどの自然言語処理タスクにおける adversarial 攻撃を特定・分類すること。
• テキストにおける adversarial パーティクルの影響を軽減するための既存の防御戦略をレビューし、その有効性を評価すること。
• テキスト分野における堅牢な DNN モデルの構築のためのテストと検証手法を検討すること。
• 現在の adversarial robustness 研究における主な制限要因と未解決課題を強調し、NLP 分野における今後の研究方向性を提示すること。

提案手法

• テキスト分野における adversarial 攻撃の分類体系を、テキスト分類やシーケンスラベリングなどの異なる自然言語処理タスクに基づいて提案する。特に、シーケンスレベルおよびトークンレベルの摂動を含む。
• 攻撃の目的に応じて攻撃を分類し、入力テキストに最小限で目に見えない変更を加えてモデルをだますことを目的とする。
• adversarial 訓練、入力の浄化、モデル正則化技術などの防御メカニズムをレビューする。
• adversarial 条件下でのモデルの堅牢性を評価するためのテストと検証フレームワークを導入する。
• さまざまな攻撃および防御戦略下でのモデルの精度と堅牢性のトレードオフを分析する。
• テキスト DNN の堅牢性において、体系的な評価プロトコルの重要性を強調する。

実験結果

リサーチクエスチョン

• RQ1 テキスト分野における adversarial 攻撃は、異なる NLP タスクにわたってどのように体系的に分類できるか？
• RQ2 テキスト分類およびシーケンスモデリング分野における DNN の堅牢性を向上させるために、最も効果的な防御戦略は何か？
• RQ3 テストと検証手法は、テキスト分野における adversarial 例に対する DNN の堅牢性をどの程度保証できるか？
• RQ4 現在の NLP 分野における adversarial robustness 研究における主な制限要因と未解決課題は何か？
• RQ5 テキストベースの深層学習モデルにおける堅牢性を向上させるために、今後の研究で最も有望な方向性は何か？

主な発見

• 画像とは異なり、テキストにおける adversarial 攻撃はより繊細で、モデルをだますために単語の置換やわずかな文法的変更に依存する。
• adversarial 訓練のような防御は堅牢性を向上させるが、標準的な精度を低下させる傾向があり、トレードオフが生じることを示している。
• テストと検証手法はモデルの脆弱性を特定するために不可欠であるが、テキスト分野ではまだ十分に検討されていない。
• 標準化されたベンチマークや評価プロトコルの欠如が、防御手法同士の比較を困難にしている。
• テキスト DNN の堅牢性は依然として発展途上の分野であり、攻撃の転送性や一般化に関する理解のギャップが顕著である。
• 今後の研究は、スケーラブルな検証、解釈可能な防御、分布シフト下での堅牢性に焦点を当てるべきである。