[논문 리뷰] Contextual Outlier Interpretation

Ninghao Liu, DongHwa Shin외 1명|arXiv (Cornell University)|2017. 11. 28.

Anomaly Detection Techniques and Applications참고 문헌 40인용 수 13

한 줄 요약

이 논문은 비정상적 특성, 외곽선도 점수, 대조적 근접 환경이라는 세 가지 구성요소를 통해 외곽선을 설명하는 모델에 종속되지 않는 프레임워크인 Contextual Outlier INterpretation (COIN)을 제안한다. 해석을 국소 분류 작업의 시리즈로 공식화함으로써 COIN은 다양한 데이터셋과 검출 방법에 걸쳐 외곽선 검출기의 통합적이고 해석 가능한 평가를 가능하게 한다.

ABSTRACT

Outlier detection plays an essential role in many data-driven applications to identify isolated instances that are different from the majority. While many statistical learning and data mining techniques have been used for developing more effective outlier detection algorithms, the interpretation of detected outliers does not receive much attention. Interpretation is becoming increasingly important to help people trust and evaluate the developed models through providing intrinsic reasons why the certain outliers are chosen. It is difficult, if not impossible, to simply apply feature selection for explaining outliers due to the distinct characteristics of various detection models, complicated structures of data in certain applications, and imbalanced distribution of outliers and normal instances. In addition, the role of contrastive contexts where outliers locate, as well as the relation between outliers and contexts, are usually overlooked in interpretation. To tackle the issues above, in this paper, we propose a novel Contextual Outlier INterpretation (COIN) method to explain the abnormality of existing outliers spotted by detectors. The interpretability for an outlier is achieved from three aspects: outlierness score, attributes that contribute to the abnormality, and contextual description of its neighborhoods. Experimental results on various types of datasets demonstrate the flexibility and effectiveness of the proposed framework compared with existing interpretation approaches.

연구 동기 및 목표

• 외곽선 검출에서의 해석 가능성 부족, 특히 블랙박스 모델과 복잡한 데이터 구조에 대해 해결하고자 한다.
• 특정 인스턴스가 외곽선으로 분류되는 이유를 설명하는 통합적이고 모델에 종속되지 않는 프레임워크를 제공하고자 한다.
• 비정상적 특성, 외곽선도 점수, 맥락적 대조적 근접 환경을 하나의 해석 가능성 프레임워크에 통합하고자 한다.
• 집계된 해석 메트릭을 통해 외곽선 검출 모델의 평가 및 비교를 가능하게 하고자 한다.
• 특성 중요도에 관한 도메인 특화 사전 지식을 해석 과정에 통합하고자 한다.

제안 방법

• COIN은 외곽선의 근접 맥락 내에서 국소 분류 작업의 시리즈로 외곽선 해석을 설정한다.
• 각 외곽선 주변의 대조적 맥락에서 간단하고 해석 가능한 분류기를 훈련시켜 비정상적 특성을 식별한다.
• 분류기의 신뢰도에서 유도된 외곽선도 점수는 비정상 특성과 명시적으로 연결된다.
• 특성 기여도와 맥락에 기반하여 비정상성을 정량화하는 새로운 외곽선도 점수 공식을 사용한다.
• 다양한 외곽선에 걸쳐 해석을 집계하여 검출기 성능 평가 및 모델 선택을 지원한다.
• 특성 역할에 관한 사전 지식을 분류 과정에 통합하여 해석을 도메인 관련 특성으로 유도할 수 있다.

실험 결과

연구 질문

• RQ1 다양하고 블랙박스인 외곽선 검출 모델이 검출한 외곽선에 대해 일관되고 해석 가능한 설명을 어떻게 제공할 수 있는가?
• RQ2 지역적 맥락(예: 근접 구조)은 비정상성의 원인을 설명하는 데 어떤 역할을 하는가?
• RQ3 특성 기여도와 맥락에서 유도된 통합된 외곽선도 점수를 통해 다양한 검출기 간 비교가 가능한가?
• RQ4 특성 중요도에 관한 도메인 특화 지식은 어떻게 외곽선 해석에 통합될 수 있는가?
• RQ5 외곽선 간 집계된 해석을 통해 다양한 외곽선 검출 모델의 성능 평가 및 비교가 가능한가?

주요 결과

• COIN은 비정상적 특성, 외곽선도 점수, 맥락적 대조를 통해 외곽선을 성공적으로 설명함으로써 종합적인 해석 프레임워크를 제공한다.
• 제안된 외곽선도 점수는 비정상적 특성과 외곽선 정도를 명시적으로 연결하여 다양한 검출기 간 정량적 비교를 가능하게 한다.
• 실세계 및 시뮬레이션 데이터셋에서의 실험을 통해 COIN이 다양한 검출 방법에서의 외곽선을 해석하는 데 있어 유연성과 효과성을 입증한다.
• 다양한 외곽선에서의 집계된 해석은 외곽선 검출 모델의 성능 평가에 의미 있는 기여를 하며, 모델 선택 및 성능 기준 설정을 지원한다.
• 이 프레임워크는 도메인 지식 통합을 지원하여 사용자가 특정 응용 맥락에 맞게 해석을 맞춤화할 수 있다.
• 사례 연구를 통해 COIN의 구성요소인 비정상적 특성, 점수, 맥락이 검출된 외곽선에 대한 실질적이고 인간이 이해할 수 있는 통찰을 제공한다는 점을 확인하였다.