[論文レビュー] Robust Anomaly Detection and Backdoor Attack Detection Via Differential Privacy

Min Du, Ruoxi Jia+1 more|arXiv (Cornell University)|Nov 16, 2019

Anomaly Detection Techniques and Applications参考文献 22被引用数 69

ひとこと要約

この文書は異常検知論文ではなく、異常検知や差分プライバシーに関する研究結果ではなく、NeurIPS 2019 のフォーマット、提出、および LaTeX スタイルのガイドラインを示している。

ABSTRACT

Outlier detection and novelty detection are two important topics for anomaly detection. Suppose the majority of a dataset are drawn from a certain distribution, outlier detection and novelty detection both aim to detect data samples that do not fit the distribution. Outliers refer to data samples within this dataset, while novelties refer to new samples. In the meantime, backdoor poisoning attacks for machine learning models are achieved through injecting poisoning samples into the training dataset, which could be regarded as "outliers" that are intentionally added by attackers. Differential privacy has been proposed to avoid leaking any individual's information, when aggregated analysis is performed on a given dataset. It is typically achieved by adding random noise, either directly to the input dataset, or to intermediate results of the aggregation mechanism. In this paper, we demonstrate that applying differential privacy can improve the utility of outlier detection and novelty detection, with an extension to detect poisoning samples in backdoor attacks. We first present a theoretical analysis on how differential privacy helps with the detection, and then conduct extensive experiments to validate the effectiveness of differential privacy in improving outlier detection, novelty detection, and backdoor attack detection.

研究の動機と目的

• NeurIPS 2019 論文の詳細なフォーマットと提出指示を提供する。
• ページ制限、余白、タイポグラフィ要件を明示する。
• 提出時の引用、図、表、および参考文献の取り扱いを説明する。
• PDF生成およびフォント埋め込み要件を説明する。

提案手法

• ページレイアウトの制約（横幅、縦幅、余白）とタイポグラフィ（Times New Roman、10pt、11pt 行送り）を概説する。
• タイトルのフォーマット（サイズ、罫線、中央揃え）と著者ブロックの配置を説明する。
• 見出しレベル、間隔、段落書式を定義する。
• natbib を用いた引用処理、ダブルブラインド審査のための匿名化、脚注の慣例を詳述する。
• 図表のキャプション付け/スタイルガイドと booktabs の推奨を提供する。
• 最終的な PDF 準備手順（レターサイズ、フォント埋め込み、フォントチェック）を列挙する。

実験結果

リサーチクエスチョン

• RQ1 NeurIPS 2019 論文のフォーマットと提出要件は何ですか？
• RQ2 NeurIPS 提出時の図、表、引用、参考文献のフォーマットはどうあるべきですか？
• RQ3 処理の成功を保証するための PDF/フォント埋め込みの制約は何ですか？
• RQ4 ダブルブラインド提出時の匿名化と行番号付けの取り扱いはどうするべきですか？

主な発見

• NeurIPS 2019 では参考文献を除くページ数は最大で八ページ、謝辞/参考文献は八ページを超えてもよい。
• 必要に応じて neurips_2019.sty を final、preprint、nonatbib のオプションとともに使用する。審査のために提出物を匿名化する。
• 引用は著者/年または数値形式でよく、natbib のサポートと本文中引用のガイダンスがある。
• 図表にはキャプションを付け、特定の間隔で整形する。表は垂線を避けるべきで、booktabs が推奨される。
• PDF は US Letter サイズを使用し、Type 1 字体またはサブセット TrueType 字体を埋め込み、pdflatex で生成する必要がある。