[논문 리뷰] Multi-View Kernel Consensus For Data Analysis and Signal Processing.

Moshe Salhov, Ofir Lindenbaum외 3명|arXiv (Cornell University)|2016. 06. 28.

Neural Networks and Applications참고 문헌 19인용 수 5

한 줄 요약

이 논문은 고차원 데이터를 다수의 속성 하위집합(뷰)으로 분할하여 저차원 기하학적 구조 복원을 향상시키는 다중 뷰 커널 공감 프레임워크를 제안한다. 뷰 간의 공감을 통해 고차원 투영에서 발생하는 거리 왜곡을 완화하고, 단일 뷰 또는 연결된 접근 방식을 초월하여 내재된 데이터 관계를 향상시킨다.

ABSTRACT

The input data features set for many data driven tasks is high-dimensional while the intrinsic dimension of the data is low. Data analysis methods aim to uncover the underlying low dimensional structure imposed by the low dimensional hidden parameters by utilizing distance metrics that consider the set of attributes as a single monolithic set. However, the transformation of the low dimensional phenomena into the measured high dimensional observations might distort the distance metric, This distortion can effect the desired estimated low dimensional geometric structure. In this paper, we suggest to utilize the redundancy in the attribute domain by partitioning the attributes into multiple subsets we call views. The proposed methods utilize the agreement also called consensus between different views to extract valuable geometric information that unifies multiple views about the intrinsic relationships among several different observations. This unification enhances the information that a single view or a simple concatenations of views provides.

연구 동기 및 목표

• 고차원 데이터에서 발생하는 거리 왜곡이 진정한 저차원 기하학적 구조를 가리키는 문제를 해결하기 위해.
• 데이터의 중복성을 활용하기 위해 속성 집합을 다수의 뷰로 분할하여 개선된 데이터 표현을 얻기 위해.
• 내재된 데이터 관계 추정을 향상시키기 위해 뷰 간의 공감 메커니즘을 개발하기 위해.
• 저차원 기하학적 구조를 유지하는 데서 단일 뷰 및 연결된 뷰 방법을 능가하기 위해.

제안 방법

• 전체 속성 집합을 다수의 상호배타적인 뷰로 분할하여 데이터의 중복성을 활용한다.
• 각 뷰에 대해 커널 행렬을 계산하여 각 속성 하위집합 내의 국소적 기하학적 관계를 포착한다.
• 일관된 기여를 강조하는 가중치 융합 전략을 사용하여 개별 뷰 커널을 융합함으로써 공감 커널을 구성한다.
• 다양한 작업(예: 차원 축소 및 군집화)에서 공감 커널을 사용하여 기저의 저차원 다양체를 드러낸다.
• 융합 가중치를 지도하기 위해 커널 정렬 지표를 사용하여 기하학적 신호가 일관된 뷰가 더 큰 기여를 하도록 한다.

실험 결과

연구 질문

• RQ1 고차원 속성 집합의 중복성을 어떻게 활용하여 기하학적 구조 복원을 향상시킬 수 있는가?
• RQ2 단일 뷰 또는 연결된 접근 방식에 비해 다수의 뷰 간 공감이 거리 왜곡을 얼마나 줄이는가?
• RQ3 공감 커널은 군집화 및 차원 축소와 같은 후행 데이터 분석 작업에서 성능 향상에 기여하는가?
• RQ4 다양한 뷰 커널을 융합하는 최적의 방법은 무엇인가, 이를 통해 내재된 데이터 관계를 어떻게 유지할 수 있는가?

주요 결과

• 제안된 다중 뷰 커널 공감 방법은 단일 뷰 또는 연결된 접근 방식보다 저차원 기하학적 구조의 유지에 뛰어난 성능을 보였다.
• 공감 기반 융합은 노이즈가 많거나 왜곡된 속성의 영향을 최소화하여 최종 기하학적 표현에 미치는 영향을 줄였다.
• 다양한 뷰 간의 일치를 활용함으로써 군집화 및 차원 축소 성능이 향상되었다.
• 커널 정렬 지표는 융합 과정을 효과적으로 지도하여 일관된 뷰의 기여도를 증가시켰다.