[논문 리뷰] Learning for Multi-Model and Multi-Type Fitting

Xun Xu, Loong‐Fah Cheong외 1명|arXiv (Cornell University)|2019. 01. 29.

Anomaly Detection Techniques and Applications참고 문헌 58인용 수 4

한 줄 요약

이 논문은 다중 모델 및 다중 유형 기하 적합을 위한 딥 러닝 프레임워크를 제안하며, 클러스터링 우호적인 특징 임베딩을 학습하여 클러스터 간 간격을 최대화하고 클러스터 내 분산을 최소화한다. 이 방법은 감독형 대비 손실(MIMI)을 사용하여 네트워크를 훈련시켜 특징 공간에서 K-means 클러스터링을 통해 정확한 모델 적합과 자동 모델 선택을 가능하게 한다. 최소한의 하이퍼파rameter 튜닝으로도 합성 및 실제 세계의 다중 유형 적합 작업에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Multi-model fitting has been extensively studied from the random sampling and clustering perspectives. Most assume that only a single type/class of model is present and their generalizations to fitting multiple types of models/structures simultaneously are non-trivial. The inherent challenges include choice of types and numbers of models, sampling imbalance and parameter tuning, all of which render conventional approaches ineffective. In this work, we formulate the multi-model multi-type fitting problem as one of learning deep feature embedding that is clustering-friendly. In other words, points of the same clusters are embedded closer together through the network. For inference, we apply K-means to cluster the data in the embedded feature space and model selection is enabled by analyzing the K-means residuals. Experiments are carried out on both synthetic and real world multi-type fitting datasets, producing state-of-the-art results. Comparisons are also made on single-type multi-model fitting tasks with promising results as well.

연구 동기 및 목표

• 노이즈와 샘플링 불균형이 존재하는 상황에서 서로 다른 유형(예: 선, 원, 동차 변환)의 다중 기하 모델을 동시에 적합하는 문제에 대응하기 위해.
• 모델 적합에서 수동적 하이퍼파rameter 튜닝이 필요 없도록, 클러스터링에 유리한 데이터 기반 특징 표현을 학습함으로써 이를 제거하기 위해.
• 임베딩된 특징 공간에서 K-means 클러스터링의 잔차 분석을 통해 자동으로 모델 수(즉, 클러스터 수)를 결정함으로써 자동 모델 선택을 가능하게 하기 위해.
• 혼합 유형 모델과 고차원, 겹치는 부분공간을 다루는 데에 한계가 있는 전통적인 RANSAC 기반 및 부분공간 클러스터링 방법의 한계를 극복하기 위해.
• 다중 모델(동일 유형, 다중 인스턴스)과 다중 유형(혼합 모델 클래스) 적합 시나리오 모두에 일반화 가능한 통합 프레임워크를 개발하기 위해.

제안 방법

• 이 방법은 특징 공간에서 클러스터 간 거리를 최대화하고 클러스터 내 분산을 최소화하는 데 목적이 있는 새로운 MIMI 손실을 사용하여 딥 네ural 네트워크를 훈련시킨다.
• 기본 네트워크인 CorresNet은 그리드가 아닌 데이터(예: 점 대응 관계)를 처리하며, 차원 d의 학습된 임베딩을 출력하며, d는 최대 예상 클러스터 수와 일치하도록 선택된다.
• 추론은 네트워크 출력 임베딩에 K-means 클러스터링을 적용하여 동일한 모델 유형의 점들을 함께 그룹화함으로써 수행된다.
• 모델 선택은 K-means 잔차에 대해 간단하고 하이퍼파rameter가 없는 히우리스틱 기법(예: 2차 차분(SOD), 실루엣 분석)을 적용하여 달성된다.
• MIMI 손실은 라벨이 부여된 내측점과 외측점으로 감독 방식으로 훈련되며, 최적화의 안정성을 확보하기 위해 훈련 중에 고정된 클러스터 할당이 이루어진다.
• 프레임워크는 KT3DMoSeg와 같은 합성 데이터 및 실제 데이터셋에서 평가되어 샘플링 불균형과 모델 유형의 모호함에 강건함을 입증했다.

실험 결과

연구 질문

• RQ1 딥 뉴럴 네트워크는 다중 모델 및 다중 유형 기하 적합을 위한 본질적으로 클러스터링에 유리한 특징 임베딩을 학습할 수 있는가?
• RQ2 제안된 방법은 복잡한 하이퍼파rameter 튜닝에 의존하지 않고도 모델 수를 자동으로 결정할 수 있는가(즉, 모델 선택을 수행하는가)?
• RQ3 모델 유형이 모호하거나 겹치는 경우(예: 선, 원, 타원)와 같은 혼합 유형 적합 작업에서 네트워크는 어떻게 성능을 내는가?
• RQ4 MIMI 손실은 클러스터 간 간격 최대화 또는 클러스터 내 밀도 최적화만을 최적화하는 아블레이션보다 우수한 성능을 보이는가?
• RQ5 일관된 성능을 유지하면서 다중 모델(동일 유형, 다중 인스턴스)과 다중 유형(혼합 유형) 시나리오 모두에 일반화 가능한가?

주요 결과

• KT3DMoSeg 데이터셋에서 제안된 방법은 평균 분류 오차 7.36%와 정확도 86.36%를 기록하여 SOD 및 실루엣 분석을 포함한 다른 베이스라인보다 우수한 성능을 보였다.
• MIMI 손실은 클러스터링 오차 측면에서 아블레이션(MinInter, MinIntra, K-means 손실)을 항상 능가하여 클러스터 간 및 클러스터 내 목표를 함께 최적화하는 것이 필수적임을 입증했다.
• 최적의 임베딩 차원은 5에서 6 사이로 확인되었으며, 이는 각 작업에서의 최대 클러스터 수와 일치하여 실용적인 히우리스틱으로서의 가능성을 시사한다.
• 임베딩 차원이 4에서 7에 이르는 범위에서 안정적인 성능을 보이며 하이퍼파rameter 선택에 대한 강건성을 입증했다.
• T-SNE를 통한 특징 시각화 결과, 학습된 임베딩은 모델 유형이 모호한 상황에서도 운동 유형(예: 애핀, 동차 변환)에 따라 점들을 잘 그룹화하고 있음을 확인했다.
• 최소한의 파라미터 튜닝 민감도를 보이며 합성 다중 유형 적합 및 실제 세계의 다중 모델 적합 작업에서 최신 기술 수준의 결과를 달성했다.