[논문 리뷰] A Kernel Two-Sample Test for Functional Data

George Wynne, A. Duncan|arXiv (Cornell University)|2020. 08. 25.

Gaussian Processes and Bayesian Inference참고 문헌 85인용 수 32

한 줄 요약

함수 데이터의 분포를 비교하기 위한 비모수적 커널 기반 두 표본 검정을 제안하며, 함수 공간에서의 MMD를 사용하고 힐베르트 공간의 커널 이론 및 이산화된 관찰에 대한 스케일링 분석을 포함한다.

ABSTRACT

We propose a nonparametric two-sample test procedure based on Maximum Mean Discrepancy (MMD) for testing the hypothesis that two samples of functions have the same underlying distribution, using kernels defined on function spaces. This construction is motivated by a scaling analysis of the efficiency of MMD-based tests for datasets of increasing dimension. Theoretical properties of kernels on function spaces and their associated MMD are established and employed to ascertain the efficacy of the newly proposed test, as well as to assess the effects of using functional reconstructions based on discretised function samples. The theoretical results are demonstrated over a range of synthetic and real world datasets.

연구 동기 및 목표

• 함수 데이터가 이산화된 함수에서 비롯된다는 점을 고려한 비모수적 두 표본 검정의 필요성을 제시한다.
• 함수 데이터를 처리하기 위해 실수형 가용한 힐베르트 공간으로의 커널 기반 MMD 검정을 일반화한다.
• 함수 공간에서의 커널이 특징(kernel)임을 보장하는 조건을 확립하고 관련 RKHS를 설명한다.
• 이산화(메시 크기)가 검정의 검력에 미치는 영향을 분석하고 커널 스케일링을 통해 이를 완화하는 방법을 제시한다.
• 합성 데이터와 실제 데이터 세트에 대한 이론적 성질과 경험적 성능을 보여준다.

제안 방법

• 실수형, 분리가능한 힐베르트 공간에서의 커널과 그 RKHS를 정의하고 연구한다.
• 함수 공간에서의 두 표본 검정을 위한 통계량으로 최대 평균 차이(MMD)를 도입하고 사용한다.
• 닫힌 형태의 MMD 표현식과 바이어스 없는 추정량(U-통계량 및 선형 시간 변형)을 제공한다.
• 가우시안 프로세스의 경우 이산화에 독립적인 검력을 달성하기 위해 메시 크기에 따른 커널 대역폭의 스케일링을 분석한다.
• 함수 공간에서 제곱 지수형 커널(SE-T)을 구성하고 특징 RKHS를 도출한다.
• 재구성된 함수 데이터의 사용이 갖는 함의를 논의하고 약한 수렴과의 연결 고리를 확립한다.

실험 결과

연구 질문

• RQ1 함수 공간에서의 커널이 특징(kernel)임을 보장하여 MMD가 함수에 대한 분포의 거리를 측정하는 메트릭이 되게 하는 조건은 무엇인가?
• RQ2 함수 데이터의 이산화(메시 크기)가 커널 두 표본 검정의 검력에 어떤 영향을 미치며, 커널 스케일링으로 이를 완화할 수 있는가?
• RQ3 함수의 힐베르트 공간에 직접 커널을 정의할 수 있으며, 그 RKHS의 구조는 무엇인가?
• RQ4 함수 데이터 설정에서 MMD 추정량의 대칭적(unbiased) 및 선형 시간(linear-time) 추정량의 점근 분포와 검력 특성은 무엇인가?
• RQ5 가우시안 프로세스 가정이 닫힌 형태의 MMD 표현식과 스케일링 법칙을 도출하는 데 어떤 도움을 주는가?

주요 결과

• MMD를 기반으로 한 커널 두 표본 검정은 특징 커널을 보장하는 함수 공간에서도 구성될 수 있어 유효한 검정을 제공한다.
• 평균 편향 대안 하에서, 적절한 대역폭 스케일링을 통해 메시 크기에 독립적인 검력으로 이론적으로 만들 수 있다.
• 실수형 분리 가능한 힐베르트 공간의 광범위한 커널 계층이 개발되었으며, 힐베르트 공간에서의 제곱 지수형(SE-T) 커널에 대한 명시적 RKHS 특성이 제시된다.
• 이산화된 함수 데이터의 재구성이 검정에 미치는 영향이 있으며, 이론적 결과가 이러한 영향을 정량화한다.
• 이 논문은 이론적 결과와 수치 실험을 모두 제공하며, 커널 기반 검정의 스케일링과 효과를 기존의 함수 데이터 두 표본 검정과 비교하여 검증한다.