[논문 리뷰] Learning Deep Disentangled Embeddings with the F-Statistic Loss

Karl Ridgeway, Michael C. Mozer|arXiv (Cornell University)|2018. 02. 14.

Face and Expression Recognition인용 수 43

한 줄 요약

F-statistic 기반 손실을 도입하여 deep embeddings에서 일부 차원에서 클래스 분리를 촉진하고, few-shot 학습을 지원하면서 disentanglement를 촉진한다.

ABSTRACT

Deep-embedding methods aim to discover representations of a domain that make explicit the domain's class structure and thereby support few-shot learning. Disentangling methods aim to make explicit compositional or factorial structure. We combine these two active but independent lines of research and propose a new paradigm suitable for both goals. We propose and evaluate a novel loss function based on the $F$ statistic, which describes the separation of two or more distributions. By ensuring that distinct classes are well separated on a subset of embedding dimensions, we obtain embeddings that are useful for few-shot learning. By not requiring separation on all dimensions, we encourage the discovery of disentangled representations. Our embedding method matches or beats state-of-the-art, as evaluated by performance on recall@$k$ and few-shot learning tasks. Our method also obtains performance superior to a variety of alternatives on disentangling, as evaluated by two key properties of a disentangled representation: modularity and explicitness. The goal of our work is to obtain more interpretable, manipulable, and generalizable deep representations of concepts and categories.

연구 동기 및 목표

• Few-shot learning을 지원하기 위해 embedding 차원에서 클래스를 분리하는 representation을 추구한다.
• 모든 차원이 모든 클래스를 분리할 필요가 없도록 disentangled representations를 장려한다.
• probabilistic, dimension-wise separation criterion로 deep embedding과 disentangling literatures를 연결한다.

제안 방법

• 임베딩 차원에서 클래스 평균 간의 분리와 클래스 내 분산 사이의 F-통계량 기반 분리 측정을 정의한다.
• 각 클래스 쌍에 대해 가장 강력한 분리도 가진 상위 d 차원을 선택하여 다차원 임베딩에 확장한다.
• 선정된 차원들에서의 분리 확률의 음의 로그를 최소화하는 손실을 형식화한다.
• 클래스 인식(class-aware) 또는 unnamed-factor 오라클을 사용하여 임베딩을 학습시키고, 식별(class identity) 분류 또는 disentangling factor에 대해 학습한다.
• ADAM으로 학습하고 recall@1 및 few-shot 태스크에서 평가하며, 히스토그램, Triplet, Binomial Deviance, 및 LSSS 손실과 비교한다.

실험 결과

연구 질문

• RQ1 F-statistic 손실이 최첨단 손실들과 대항하여 recall@1/few-shot 태스크에서 경쟁력 있는 임베딩을 생성할 수 있는가?
• RQ2 임베딩 차원의 부분집합에서의 분리를 강제하는 것이 더 disentangled한 표현을 산출하는가?
• RQ3 F-statistic 손실이 학습된 요인들의 모듈성(modularity), 응집성(compactness), 명시성(explicitness) 사이에 어떤 trade-off를 보이는가?
• RQ4 감독 학습(class-aware)과 약 감독(unnamed-factor) 설정 모두에서 접근 방식이 견고한가?

주요 결과

• F-statistic 손실은 CUHK03, Market-1501 및 CUB-200-2011 데이터셋에서 recall@1 성능이 최첨단과 맞먹거나 이를 상회한다.
• 해 disentanglement 지표에서 F-statistic 손실은 특히 작은 NORB 데이터셋에서 모듈성 및 명시성이 우수하다.
• Unnamed-factor 및 class-aware 감독 모두에서 강한 모듈성 및 명시성을 보이며, 대부분의 설정에서 β-VAE 기반 기준선을 능가한다.
• separating 차원의 수 d를 늘리면 로버스트니스가 증가하고, d에 대한 성능이 넓은 범위에서 비교적 불변이다.