[논문 리뷰] Latent Factor Interpretations for Collaborative Filtering

Anupam Datta, Sophia Kovaleva외 2명|arXiv (Cornell University)|2017. 11. 29.

Recommender Systems and Techniques참고 문헌 15인용 수 4

한 줄 요약

이 논문은 잠재 요인 해석(Latent Factor Interpretation, LFI)을 소개한다. LFI는 협업 필터링 모델의 해석이 어려운 잠재 요인을 인간이 이해할 수 있는 특징(예: 영화 장르, IMDb 및 TV 투프스의 키워드 등)으로 매핑하여 이에 대한 설명을 가능하게 한다. 기존의 설명 기법(예: 입력 영향도 측정법)을 활용할 수 있도록, 해석 가능한 입력을 사용해 잠재 요인을 예측하고 원본 모델의 예측을 재현하는 '섀도우 모델'을 구축함으로써, 사용자별로 해석 가능한 설명을 도출할 수 있다. 이는 MovieLens 데이터셋에서 높은 예측 정확도로 검증되었다.

ABSTRACT

Many machine learning systems utilize latent factors as internal representations for making predictions. Since these latent factors are largely uninterpreted, however, predictions made using them are opaque. Collaborative filtering via matrix factorization is a prime example of such an algorithm that uses uninterpreted latent features, and yet has seen widespread adoption for many recommendation tasks. We present Latent Factor Interpretation (LFI), a method for interpreting models by leveraging interpretations of latent factors in terms of human-understandable features. The interpretation of latent factors can then replace the uninterpreted latent factors, resulting in a new model that expresses predictions in terms of interpretable features. This new model can then be interpreted using recently developed model explanation techniques. In this paper we develop LFI for collaborative filtering based recommender systems. We illustrate the use of LFI interpretations on the MovieLens dataset, integrating auxiliary features from IMDB and DB tropes, and show that latent factors can be predicted with sufficient accuracy for replicating the predictions of the true model.

연구 동기 및 목표

• 잠재 요인에 의존하는 협업 필터링 모델의 투명성 부족 문제를 해결하기 위해.
• IMDb 및 TV 투프스와 같은 보조 데이터 소스를 활용해 잠재 요인을 인간이 이해할 수 있는 특징으로 매핑하는 방법을 개발하기 위해.
• 원본 모델의 예측 행동을 유지하면서도 해석 가능한 입력을 사용하는 샤프트 모델을 구축하기 위해.
• 모델에 종속되지 않는 설명 기법(특히 입력 영향도 측정법)을 샤프트 모델에 적용하여 사용자별로 해석 가능한 설명을 도출하기 위해.
• 샤프트 모델에서 유도된 설명이 원본 잠재 요인 모델의 의사결정 과정을 의미 있게 반영하고 있는지 검증하기 위해.

제안 방법

• 외부 소스에서 확보한 해석 가능한 특징(예: 장르, 키워드, 평균 평점 등)을 협업 필터링 모델의 아이템 잠재 요인으로 매핑하는 예측기 학습.
• 학습된 해석 가능한 특징에서 잠재 요인으로의 매핑과 원본 사용자 잠재 요인, 행렬 분해 예측 함수를 조합하여 '샤프트 모델' 구축.
• 잠재 요인과 최종 평점 둘 다를 정확히 예측하여 원본 모델의 예측을 정확히 재현함으로써 샤프트 모델이 원본 모델의 행동을 유지하도록 보장.
• 샤프트 모델에 입력 영향도 측정법(예: Datta 등, 2016)을 적용하여 개별 추천에 가장 영향을 미치는 해석 가능한 특징을 식별.
• 샤프트 모델의 영향도 점수를 원본 모델의 예측에 대한 해석 가능한 설명으로 활용함으로써, 두 모델 간의 대응 관계를 활용.
• IMDb 및 TV 투프스에서의 보조 데이터 통합을 통해 잠재 요인 예측을 위한 해석 가능한 특징 공간을 풍부하게 함.

실험 결과

연구 질문

• RQ1 외부 소스에서 확보한 해석 가능한 특징를 사용해 협업 필터링 모델의 잠재 요인을 정확히 예측할 수 있는가?
• RQ2 해석 가능한 특징와 학습된 매핑을 기반으로 구축한 샤프트 모델이 원본 잠재 요인 모델의 예측 행동을 유지하는가?
• RQ3 샤프트 모델에 적용된 입력 영향도 측정법이 추천에 대해 간결하고 사용자 중심의 설명을 도출할 수 있는가?
• RQ4 샤프트 모델에서 도출된 설명이 원본 모델의 실제 의사결정 과정을 어느 정도 반영하는가?
• RQ5 이 방법은 추천 정확도를 훼손하지 않으면서도 협업 필터링 모델의 해석 가능성 격차를 해소할 수 있는가?

주요 결과

• 샤프트 모델는 원본 모델과 강한 대응 관계를 보이며, 아이템 잠재 요인과 최종 추천 점수 예측 모두 높은 정확도를 달성했다.
• 샤프트 모델에서 측정한 해석 가능한 특징의 영향력은 간결하고 의미 있는 설명을 제공했으며, 예를 들어 'SF 장르' 또는 '우주에서의 액션'은 스타트렉 추천에 대한 설명으로 적절했다.
• 이 방법은 사용자 평점이 없는 신규 또는 콜드 스타트 아이템에 대해서도 보조 메타데이터를 활용해 추천을 해석할 수 있도록 했다.
• 사용자 연구 결과에 따르면 장르, 키워드, 평균 평점 등의 특징이 추천에 가장 영향을 미치는 것으로 나타났으며, 이는 모델에서 사용된 해석 가능한 특징과 일치했다.
• 이전의 방법들과 달리, 이 방법은 수작업 또는 사전 정의된 매핑에 의존하지 않고 외부 해석 가능한 특징에서 데이터 기반의 매핑을 학습함으로써 우수한 성능을 발휘했다.
• 샤프트 모델의 설명은 정확하고 사용자에게 관련성이 있어, 원본 모델의 행동을 의미 있게 해석한다는 주장에 뒷받침되었다.