[논문 리뷰] Batch-Incremental Triplet Sampling for Training Triplet Networks Using Bayesian Updating Theorem

Milad Sikaroudi, Benyamin Ghojogh외 3명|arXiv (Cornell University)|2020. 07. 10.

AI in cancer detection참고 문헌 35인용 수 3

한 줄 요약

이 논문은 클래스 임bedding를 모델링하는 다변량 정규분포에서 동적으로 양성 및 음성 트리플릿을 샘플링하는 새로운 배치-증분형 트리플릿 샘플링 방법인 베이지안 업데이트 트리플릿(BUT)과 베이지안 업데이트 NCA(BUNCA)를 제안한다. 공액 사전을 사용한 베이지안 업데이트를 통해 스트리밍 미니배치를 거쳐 클래스 분포를 적응적으로 개선함으로써, 분류 가능한 특징 학습을 향상시키고 MNIST 및 CRC 히스토패스로지 데이터셋에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Variants of Triplet networks are robust entities for learning a discriminative embedding subspace. There exist different triplet mining approaches for selecting the most suitable training triplets. Some of these mining methods rely on the extreme distances between instances, and some others make use of sampling. However, sampling from stochastic distributions of data rather than sampling merely from the existing embedding instances can provide more discriminative information. In this work, we sample triplets from distributions of data rather than from existing instances. We consider a multivariate normal distribution for the embedding of each class. Using Bayesian updating and conjugate priors, we update the distributions of classes dynamically by receiving the new mini-batches of training data. The proposed triplet mining with Bayesian updating can be used with any triplet-based loss function, e.g., triplet-loss or Neighborhood Component Analysis (NCA) loss. Accordingly, Our triplet mining approaches are called Bayesian Updating Triplet (BUT) and Bayesian Updating NCA (BUNCA), depending on which loss function is being used. Experimental results on two public datasets, namely MNIST and histopathology colorectal cancer (CRC), substantiate the effectiveness of the proposed triplet mining method.

연구 동기 및 목표

• 기존 임베딩에서 정적 샘플링을 넘어서 학습된 클래스 분포에서의 확률적 샘플링으로 삼중체 네트워크 훈련을 향상시키기 위해.
• 기존 삼중체 마이닝 방법의 한계를 해결하기 위해, 고정된 데이터 인스턴스에만 의존하는 방식은 정보가 풍부한, 외곽선에 가까운 또는 희귀 패턴을 놓칠 수 있기 때문이다.
• 클래스 임베딩의 베이지안 업데이트를 통해 불확실성과 스트리밍 데이터를 통합함으로써 강건성과 일반화 능력을 향상시키기 위해.
• 표준 메트릭 학습 벤치마크를 사용하여 기준 데이터셋에서 동적이고 분포 기반의 삼중체 샘플링의 효과를 검증하기 위해.

제안 방법

• 각 클래스의 임베딩을 평균과 공분산으로 파arameter화한 다변량 정규분포로 모델링한다.
• 새로운 미니배치를 통해 클래스 분포를 분석적으로 업데이트할 수 있도록 공액 사전(Normal-Inverse-Wishart)을 사용한다.
• 새로운 훈련 데이터가 도착함에 따라 클래스 분포 파rameter(평균과 공분산)를 반복적으로 개선하기 위해 베이지안 업데이트를 적용한다.
• 고정된 미니배치 내 데이터 포인트에서가 아니라, 동적으로 업데이트된 다변량 정규분포에서 양성 및 음성 트리플릿을 샘플링한다.
• 삼중체 손실 및 NCA 손실을 포함한 어떤 삼중체 기반 손실 함수에도 적합하여 모듈러리티가 높고 광범위하게 적용 가능하다.
• 배치-증분 훈련 파이프라인에 통합되어 훈련 중에 온라인 적응이 가능하도록 한다.

실험 결과

연구 질문

• RQ1 고정된 데이터 포인트가 아닌 학습된 클래스 분포에서 샘플링하는 것이 삼중체 네트워크 성능을 향상시키는가?
• RQ2 클래스 임베딩의 동적 베이지안 업데이트가 학습된 표현의 분류 능력에 어떤 영향을 미치는가?
• RQ3 분포 기반 샘플링이 배치 하드 또는 DWS와 같은 기존 샘플링 전략보다 검색 정확도에서 뛰어나게 성능을 내는가?
• RQ4 실제 데이터셋인 히스토패스로지 이미지와 같은 외곽선 및 데이터 분포 이동에 대해 제안된 방법은 얼마나 강건한가?
• RQ5 손글씨 숫자와 의료 조직 패치와 같은 다양한 데이터 유형 간에 일반화가 가능한가?

주요 결과

• BUT는 MNIST에서 Recall@1이 88.03%를 기록하여 배치 하드(85.75%) 및 NCA(85.40%)를 포함한 모든 베이스라인을 초월했다.
• CRC 히스토패스로지 데이터셋에서 BUT는 Recall@1이 79.14%를 기록하여 배치 하드(79.09%)를 제외한 모든 베이스라인을 뛰어넘었으며, 강력한 일반화 능력을 보였다.
• BUNCA는 MNIST에서 Recall@1이 78.67%를 기록했고, CRC에서도 78.67%를 기록하여 BUT보다 덜 공격적인 방식임에도 불구하고 다양한 데이터셋에서 일관된 성능을 보였다.
• 제안된 방법은 검색 품질을 크게 향상시켰으며, MNIST 및 히스토패스로지 데이터 모두에서 상위 10개 검색 결과가 질의 이미지와 높은 시각적 유사성을 보였다.
• 시각화 결과는 복잡한 패턴(예: 히스토패스로지에서의 종양 및 점액)에서도 의미적으로 유사한 샘플을 성공적으로 검색함을 확인했다.
• 이 방법은 클래스 분포 이동를 효과적으로 처리하며, 베이지안 불확실성 모델링을 통해 외곽선에 대한 민감도를 감소시켜 강건성을 유지한다.