[논문 리뷰] Complementary-Similarity Learning using Quadruplet Network

Mansi Ranjit Mane, Stephen Guo외 1명|arXiv (Cornell University)|2019. 08. 26.

Advanced Clustering Algorithms Research인용 수 4

한 줄 요약

이 논문은 텍스트 제목만을 사용하여 항목 간 유사성과 기능적 보완성을 동시에 학습하는 시아모이스 쿼드럽렛 네트워크를 제안한다. 이는 콜드스터트 및 저참여 제품에 대해 정확하고 확장 가능한 추천을 가능하게 한다. 모델은 비슷한 항목, 보완적인 항목, 부정적인 항목 간 임베딩 간의 우월한 분리 성능을 보이며, 순위 정확도에서 베이스라인을 능가하면서도 유사성 및 보완성 작업 모두에서 균형 잡힌 성능을 유지한다.

ABSTRACT

We propose a novel learning framework to answer questions such as "if a user is purchasing a shirt, what other items will (s)he need with the shirt?" Our framework learns distributed representations for items from available textual data, with the learned representations representing items in a latent space expressing functional complementarity as well similarity. In particular, our framework places functionally similar items close together in the latent space, while also placing complementary items closer than non-complementary items, but farther away than similar items. In this study, we introduce a new dataset of similar, complementary, and negative items derived from the Amazon co-purchase dataset. For evaluation purposes, we focus our approach on clothing and fashion verticals. As per our knowledge, this is the first attempt to learn similar and complementary relationships simultaneously through just textual title metadata. Our framework is applicable across a broad set of items in the product catalog and can generate quality complementary item recommendations at scale.

연구 동기 및 목표

• 콜드스터트 및 저참여 상황에서 협업 필터링의 한계를 극복하기 위해 텍스트 제목 정보만을 활용하여 전자상거래 환경에서 기능적으로 보완적인 항목을 추천하는 도전 과제를 해결한다.
• 유사한 항목과 보완적인 항목을 구분하는 데 어려움을 겪는 문제를 해결하기 위해, 유사성과 보완성을 동시에 학습하는 통합 임베딩 공간을 개발한다.
• 유사한 항목은 서로 가까이, 보완적인 항목은 비유사하지만 비음성 항목보다는 가까이, 음성 항목은 가장 멀리 떨어지도록 하는 통합 임베딩 공간을 설계한다.
• 평가를 위해 아마존 공구매 데이터에서 쿼드럽렛(기준, 유사, 보완, 음성)으로 구성된 새로운 데이터셋을 구축한다.
• 유사성과 보완성을 동시에 학습시켜 추천 다양성을 향상시키고, 서로 다른 신발을 보완으로 추천하는 등 비현실적인 추천을 방지한다.

제안 방법

• 항목 제목에서 512차원의 텍스트 임베딩을 생성하기 위해 유니버설 문장 인코더를 사용하여 초깃대사 표현을 확보한다.
• 공유 인코더와 두 개의 완전 연결 층(256 및 128 유닛)을 갖춘 시아모이스 쿼드럽렛 네트워크를 설계하여 항목을 공통 잠재 공간으로 매핑한다.
• 거리(anchor, similar) < 거리(anchor, complementary) < 거리(anchor, negative)를 만족하도록 삼중체 손실 기반 목적함수를 사용해 훈련한다. 마진 하이퍼파라미터를 적용한다.
• 마진 기반 제약 조건을 적용: $d(a_f, s_f) < d(a_f, c_f)$ 및 $d(a_f, c_f) < d(a_f, n_f)$, 마진 값은 $m_s = 0.1$, $m_c = 0.4$, $m_n = 0.8$.
• Tesla K80 GPU에서 배치 크기 512, 초기 학습률 0.001로 30 에포크 동안 Adam 최적화기를 사용한다.
• 임의의 음성 샘플링을 적용하며, 향후 연구를 위해 비슷하거나 보완적인 항목과의 중복 가능성을 제한 요소로 간주한다.

실험 결과

연구 질문

• RQ1 딥 러닝 모델이 텍스트 제목 메타데이터만을 사용하여 항목 간 유사성과 기능적 보완성을 효과적으로 학습할 수 있는가?
• RQ2 통합 임베딩 공간이 유사한 항목, 보완적인 항목, 비보완(음성) 항목을 얼마나 잘 구분할 수 있는가?
• RQ3 유사성과 보완성을 동시에 학습시키는 것이 단일 관계에만 훈련된 모델보다 보완 추천 품질을 향상시키는가?
• RQ4 모델이 공구매 이력이 없는 콜드스터트 항목으로 일반화되는 정도는 어느 정도인가?
• RQ5 유니버설 문장 인코더 및 단일 보완성에 최적화된 시아모이스 삼중체 네트워크와 비교해 모델의 성능은 어떻게 되는가?

주요 결과

• 제안된 쿼드럽렛 네트워크는 비교된 모든 방법 중에서 가장 높은 순위 정확도를 달성하여, 비슷한 항목, 보완 항목, 음성 항목 간의 구분 능력이 뛰어나다는 것을 입증한다.
• 훈련 후 모델은 거리 분포를 성공적으로 분리한다: 유사 항목이 가장 가까이, 그 다음 보완 항목, 그 다음 음성 항목이며, 겹침이 최소한이다.
• 반면에 유니버설 문장 인코더는 유사 항목과 보완 항목 간의 거리 분포가 겹쳐져서 이를 구분하기 어려운 것으로 나타났다.
• 단일 보완성에 최적화된 시아모이스 삼중체 네트워크는 유사성 정확도가 저하되는 경향을 보이며, 이는 동시 학습의 이점이 있음을 시사한다.
• 모델은 유사성과 보완성 작업 모두에서 균형 잡힌 성능을 유지하여 단일 목표 모델에서 관찰되는 트레이드오프를 피한다.
• 그림 4의 정성적 사례에서는 옷에 어울리는 다양한 관련 보완 항목(예: 청바지, 벨트, 스카프)을 추천하여 반복적이거나 잘못된 제안을 방지하는 등 효과적인 보완 추천을 생성한다.