[논문 리뷰] On Perfect Classification for Gaussian Processes

Juan A. Cuesta-Aboertos, Subhajit Dutta|arXiv (Cornell University)|2016. 02. 16.

Fault Detection and Control Systems참고 문헌 13인용 수 3

한 줄 요약

이 논문은 무한차원 공간에서 J ≥ 2개의 가우시안 과정 간의 완전한 분리를 유도하는 데이터 기반 변환을 제안하며, 구성요소별 분류기들을 통해 渐近적으로 0에 수렴하는 오분류 확률을 달성한다. 이 방법은 측도의 비등가성(measure singularity)을 활용하여 한계에서 완벽한 분류를 실현하며, 시뮬레이션된 및 기준 기능 데이터 세트에서 뛰어난 유한표본 성능을 입증한다.

ABSTRACT

In this paper, we study the problem of discriminating $J ~(\geq 2)$ Gaussian processes by analyzing the behavior of the underlying probability measures in an infinite-dimensional space. Motivated by singularity of a certain class of Gaussian measures, we first propose a data based transformation for the training data. For a $J$ class classification problem, this transformation induces complete separation among the associated Gaussian processes. The misclassification probability of a componentwise classifier when applied on this transformed data asymptotically converges to zero. In finite samples, the empirical classifier is constructed and related theoretical properties are studied. Good performance of the proposed methodology is demonstrated using simulated as well as benchmark data sets when compared with some parametric and nonparametric classifiers for such functional data.

연구 동기 및 목표

• 기존 분류기가 실패할 수 있는 무한차원 공간에서 J ≥ 2개의 가우시안 과정을 분류하는 문제에 대응하기 위해.
• 일부 가우시안 측도의 비등가성을 활용하여 기저 확률 측도 간의 완전한 분리를 가능하게 하기 위해.
• J-분류를 위한 구성요소별 분류기가 渐近적으로 완벽해지도록 하는 변환을 개발하기 위해.
• 유한표본 설정에서의 경험 분류기 이론적 성질을 확립하기 위해.
• 기능 데이터에 대해 기존의 파라미터적 및 비모수적 분류기들과 비교하여 제안된 방법의 성능이 뛰어나다는 것을 입증하기 위해.

제안 방법

• 학습 데이터를 재매개변수화하는 데이터 기반 변환이 도입되며, 이는 무한차원 샘플 경로 공간에서 J개의 가우시안 과정 간의 완전한 분리를 유도한다.
• 이 변환은 가우시안 측도의 비등가성을 활용하여, 변환 후 관련 확률 측도가 상호 비등가가 되도록 보장한다.
• 변환된 데이터에 구성요소별 분류기가 적용되며, 그 오분류 확률이 渐 asymptotically 0으로 수렴함을 보여준다.
• 유한 표본에서 구성된 경험 분류기의 이론적 분석을 수행하여 일致성 및 수렴 성질을 확립한다.
• 실제 시뮬레이션 및 기준 기능 데이터 세트에 적용하여 실용적 성능을 평가한다.

실험 결과

연구 질문

• RQ1 무한차원 공간에서 J ≥ 2개의 가우시안 과정 간의 완전한 분리를 달성하기 위한 데이터 기반 변환을 설계할 수 있는가?
• RQ2 변환된 데이터에 구성요소별 분류기를 적용할 때 오분류 확률의 渐진적 행동은 어떠한가?
• RQ3 유한표본 설정에서 경험 분류기의 이론적 성질은 어떻게 행동하는가?
• RQ4 제안된 방법은 기능 데이터에 대해 기존의 파라미터적 및 비모수적 분류기들과 비교하여 성능에서 뛰어나게 되는가?

주요 결과

• 제안된 변환은 J개의 가우시안 과정의 기저 확률 측도가 상호 비등가가 되도록 보장하여 무한차원 공간에서 완전한 분리를 실현한다.
• 변환된 데이터에 적용된 구성요소별 분류기의 오분류 확률은 渐진적으로 0으로 수렴한다.
• 유한 표본에서 구성된 경험 분류기는 뛰어난 성능을 보이며, 결과 섹션에서 명시적 오분류 오차가 보고되지 않았다.
• 제안된 방법은 시뮬레이션 및 실제 기능 데이터 세트에서 여러 기준 파라미터적 및 비모수적 분류기들을 능가하는 성능을 보였다.