[논문 리뷰] Anomaly Detection via Mean Shift Density Enhancement

Pritam Kar, Rahul Bordoloi외 2명|arXiv (Cornell University)|2026. 02. 03.

Anomaly Detection Techniques and Applications인용 수 0

한 줄 요약

MSDE는 적응형, UMAP 정보를 반영한 가중치를 사용하고 가중 평균 시프트 프로세스를 이용하는 비지도 이상 탐지 프레임워크입니다. 이상치는 밀도 모드로의 누적 변위로 점수화됩니다.

ABSTRACT

Unsupervised anomaly detection stands as an important problem in machine learning, with applications in financial fraud prevention, network security and medical diagnostics. Existing unsupervised anomaly detection algorithms rarely perform well across different anomaly types, often excelling only under specific structural assumptions. This lack of robustness also becomes particularly evident under noisy settings. We propose Mean Shift Density Enhancement (MSDE), a fully unsupervised framework that detects anomalies through their geometric response to density-driven manifold evolution. MSDE is based on the principle that normal samples, being well supported by local density, remain stable under iterative density enhancement, whereas anomalous samples undergo large cumulative displacements as they are attracted toward nearby density modes. To operationalize this idea, MSDE employs a weighted mean-shift procedure with adaptive, sample-specific density weights derived from a UMAP-based fuzzy neighborhood graph. Anomaly scores are defined by the total displacement accumulated across a small number of mean-shift iterations. We evaluate MSDE on the ADBench benchmark, comprising forty six real-world tabular datasets, four realistic anomaly generation mechanisms, and six noise levels. Compared to 13 established unsupervised baselines, MSDE achieves consistently strong, balanced and robust performance for AUC-ROC, AUC-PR, and Precision@n, at several noise levels and on average over several types of anomalies. These results demonstrate that displacement-based scoring provides a robust alternative to the existing state-of-the-art for unsupervised anomaly detection.

연구 동기 및 목표

• 이질적인 이상 유형과 노이즈 수준 전반에 걸친 강건한 비지도 이상 탐지를 추진한다.
• 밀도 기반 매니폴드 진화를 활용하는 기하 기반 방법을 개발한다.
• UMAP 기반 퍼지 이웃 그래프에서 파생된 적응적, 샘플 특이적 밀도 가중치를 도입한다.
• 이상 점수는 mean-shift 반복 동안의 총 변위를 정의한다.

제안 방법

• 각 mean-shift 반복마다 업데이트되는 적응형 k-최근접 이웃 그래프를 구성한다.
• 다중 반경 밀도 추정을 이용해 UMAP 기반 퍼지 이웃 그래프에서 샘플 특이적 가중치를 계산한다.
• 이 가중치를 사용하여 학습된 매니폴드에서 가중 평균 시프트를 수행하고 점의 변위를 얻는다.
• 반복에 걸친 각 점의 변위를 누적해 누적 이동의 sigmoid-정규화 스케일로 이상 점수를 형성한다.
• 노이즈 수준 전반에 걸쳐 ADBench(46개 실세계 데이터셋, 4개의 이상 모드, 3개의 시드)에서 평가하고, 13개의 비지도 베이스라인과 비교한다.

(a) AUC-ROC

실험 결과

연구 질문

• RQ1 변위 기반의 밀도 향상 방식이 다양한 이상 유형에 걸쳐 안정적이고 강건한 이상 탐지를 제공할 수 있는가?
• RQ2 UMAP 유도 가중치를 갖는 매니폴드 적응형 mean-shift가 잡음 및 이상 모드 전반에서 고전적 비지도 탐지기보다 우수한가?
• RQ3 제로 및 노이즈 조건에서 ADBench 벤치마크에서 MSDE가 최첨단 대안들에 비해 어떻게 수행하는가?

주요 결과

방법	Avg AUC-ROC	Avg AUC-PR	Avg Precision@n
MSDE	0.922	0.714	0.694
KNN	0.910	0.676	0.655
IForest	0.908	0.667	0.638
CBLOF	0.904	0.689	0.667
SOD	0.878	0.637	0.617
PCA	0.865	0.641	0.616
OCSVM	0.856	0.650	0.621
HBOS	0.853	0.632	0.600
COPOD	0.855	0.624	0.588
ECOD	0.852	0.625	0.585
LODA	0.847	0.612	0.583
COF	0.815	0.568	0.545
LOF	0.794	0.574	0.555
DAGMM	0.822	0.516	0.499

• MSDE는 제로 노이즈 설정에서 네 가지 합성 이상 모드에 대해 AUC-ROC, AUC-PR, 및 Precision@n에서 최고 평균을 달성했다.
• 제로 노이즈에서 MSDE의 평균 AUC-ROC 0.922, AUC-PR 0.714, Precision@n 0.694로, 평균적으로 13개의 베이스라인을 능가했다(Table 4).
• MSDE는 노이즈 증가에 대해 견고함을 보여, 일정한 성능을 유지하고 일부 베이스라인에서 보이는 급격한 저하를 피한다(Table 5 논의).
• MSDE는 의존성, 클러스터, 글로벌 및 로컬 이상 유형에 대해 일관되게 강력하며, 모드 전반에 걸쳐 특히 균형 잡힌 성능을 보인다.
• 정성적 시각화는 MSDE가 기하학적 불안정성을 통해 의미론적 이상을 포착함을 보여준다(예: Figure 2의 MNIST 예시).

(b) AUC-PR