[논문 리뷰] Robust Anomaly Detection and Backdoor Attack Detection Via Differential Privacy

Min Du, Ruoxi Jia외 1명|arXiv (Cornell University)|2019. 11. 16.

Anomaly Detection Techniques and Applications참고 문헌 22인용 수 69

한 줄 요약

본 문서는 이상 탐지 논문이 아니다; 이상 탐지나 차등 프라이버시 연구 결과가 아니라 NeurIPS 2019 형식 및 제출 및 LaTeX 스타일 가이드라인을 제시한다.

ABSTRACT

Outlier detection and novelty detection are two important topics for anomaly detection. Suppose the majority of a dataset are drawn from a certain distribution, outlier detection and novelty detection both aim to detect data samples that do not fit the distribution. Outliers refer to data samples within this dataset, while novelties refer to new samples. In the meantime, backdoor poisoning attacks for machine learning models are achieved through injecting poisoning samples into the training dataset, which could be regarded as "outliers" that are intentionally added by attackers. Differential privacy has been proposed to avoid leaking any individual's information, when aggregated analysis is performed on a given dataset. It is typically achieved by adding random noise, either directly to the input dataset, or to intermediate results of the aggregation mechanism. In this paper, we demonstrate that applying differential privacy can improve the utility of outlier detection and novelty detection, with an extension to detect poisoning samples in backdoor attacks. We first present a theoretical analysis on how differential privacy helps with the detection, and then conduct extensive experiments to validate the effectiveness of differential privacy in improving outlier detection, novelty detection, and backdoor attack detection.

연구 동기 및 목표

• NeurIPS 2019 논문에 대한 자세한 형식 및 제출 지침을 제공한다.
• 페이지 제한, 여백 및 타이포그래피 요구사항을 명시한다.
• 제출을 위한 인용, 그림, 표 및 참고문헌 처리 방법을 설명한다.
• PDF 생성 및 글꼴 임베딩 요구사항을 설명한다.

제안 방법

• 페이지 레이아웃 제약(가로폭, 세로높이, 여백) 및 타이포그래피(Times New Roman, 10pt, 11pt 행간)를 개략적으로 설명한다.
• 제목 서식(크기, 경계선, 가운데 정렬) 및 저자 블록 배치를 설명한다.
• 제목 수준, 간격 및 문단 서식을 정의한다.
• natbib를 이용한 인용 처리, 이중 블라인드 리뷰를 위한 익명화 및 각주 규칙을 상세히 설명한다.
• 그림 및 표 캡션 작성/스타일 가이드와 booktabs 권장사항을 제공한다.
• 최종 PDF 준비 단계(리터 크기, 글꼴 임베딩 및 글꼴 확인)를 나열한다.

실험 결과

연구 질문

• RQ1 NeurIPS 2019 형식 및 제출 요건은 무엇인가?
• RQ2 NeurIPS 제출을 위해 그림, 표, 인용 및 참고문헌은 어떻게 형식화되어야 하는가?
• RQ3 성공적인 처리 보장을 위한 PDF/글꼴 임베딩 제약은 무엇인가?
• RQ4 이중 블라인드 제출 중 익명화 및 줄 번호 부여는 어떻게 처리되어야 하는가?

주요 결과

• NeurIPS 2019는 참고문헌 제외하여 최대 여덟 페이지까지의 논문을 요구한다; 감사의 글/참고문헌은 여덟 페이지를 초과할 수 있다.
• 필요에 따라 options final, preprint, 및 nonatbib를 사용하여 neurips_2019.sty를 이용한다; 평가를 위한 제출물은 익명화한다.
• 인용은 저자/연도 또는 숫자 형식일 수 있으며, natbib 지원 및 본문 인용에 대한 안내가 있다.
• 그림과 표는 캡션을 달고 특정 간격으로 형식화되어야 하며; 표에는 세로 구분선을 피하는 것이 좋고 booktabs를 권장한다.
• PDF는 US Letter 크기를 사용하고, Type 1 또는 하위 집합 TrueType 글꼴을 임베딩하며 pdflatex로 생성되어야 한다.