[논문 리뷰] Building an Interpretable Recommender via Loss-Preserving Transformation

Amit Dhurandhar, Sechan Oh외 1명|arXiv (Cornell University)|2016. 06. 19.

Data Stream Mining Techniques인용 수 3

한 줄 요약

이 논문은 표본 및 동작에 따라 변하는 오분류 비용을 가진 개인화 추천 데이터를 손실 구조를 유지하면서 표준 다중 분류 형식으로 변환하는 손실 유지 전환 방법을 제안한다. 원래의 비용 구조를 유지함으로써 기존의 해석 가능한 분류기(예: 의사결정나무)가 해석 가능성 제약 조건이 엄격한 상황에서도 성능이 뛰어난 규칙 기반 추천을 생성할 수 있게 하며, 이는 기준 방법 대비 전환율에서 뚜렷한 승리를 이룬다.

ABSTRACT

We propose a method for building an interpretable recommender system for personalizing online content and promotions. Historical data available for the system consists of customer features, provided content (promotions), and user responses. Unlike in a standard multi-class classification setting, misclassification costs depend on both recommended actions and customers. Our method transforms such a data set to a new set which can be used with standard interpretable multi-class classification algorithms. The transformation has the desirable property that minimizing the standard misclassification penalty in this new space is equivalent to minimizing the custom cost function.

연구 동기 및 목표

• 개인화 마케팅 환경에서 높은 추천 품질을 유지하면서도 해석 가능한 규칙 기반 추천 정책을 생성하는 데 도전하는 것.
• 모든 오분류 비용이 동일하다고 가정하는 표준 다중 분류 분류기의 한계를 극복하여, 고객과 동작에 따라 비용이 달라지는 환경에서의 적용을 가능하게 하는 것.
• 고유한 표본 및 클래스 종속 비용을 가진 데이터를 손실 최적화를 잃지 않고 표준 분류 형식으로 매핑하는 일반적인 전환 방법을 개발하는 것.
• 도메인 전문가가 요구하는 작은 수의 규칙 조건에서도 해석 가능한 규칙이 강건하고 효과적으로 작동하도록 보장하는 것.
• 규칙 생성 과정에서 엄격한 비용 모델링이 히وري스틱 또는 기준 방법보다 훨씬 뛰어난 성능을 내는지 입증하는 것.

제안 방법

• 고객 특성, 동작, 결과의 트리플로 구성된 원본 데이터셋을, 최적의 동작과 실제 동작의 전환 확률 차이에서 유도된 손실 유지 가중치에 따라 각 샘플을 복제한 새로운 데이터셋으로 변환한다.
• 변환된 데이터를 사용해 표준 해석 가능한 다중 분류 분류기(예: 의사결정나무)를 훈련시켜, 새로운 공간에서 표준 0/1 오분류 오차를 최소화하는 것이 원래의 고유 비용 함수를 최소화하는 것과 동일시되도록 보장한다.
• 이 전환 방법은 변환된 공간에서의 최적 정책이 원래의 손실 민감도 공간에서의 최적 정책와 정확히 일치함으로써 진정한 손실 구조를 유지한다.
• 이 방법은 가중치 샘플을 지원하는 모든 분류기와 통합 가능하므로 일반적이며 기존의 해석 가능한 학습 알고리즘과의 통합이 용이하다.
• 각 (x, a) 쌍에 대한 복제 수는 최적의 동작 a*(x) 대비 a를 추천할 때의 기대 비용에 비례하도록 전환을 구성한다.
• 특수한 손실 민감도 학습 알고리즘을 필요로 하지 않고, 조정된 샘플 가중치를 가진 표준 분류 작업으로 문제를 변환함으로써 이 문제를 해결한다.

실험 결과

연구 질문

• RQ1 손실 민감도 추천 문제를 표준 다중 분류 문제로 변환하면서도 원래의 손실 구조를 유지할 수 있는 일반적인 전환 방법을 설계할 수 있는가?
• RQ2 이러한 전환 방법을 사용할 경우, 표본 및 동작 종속 비용을 忽시하는 기준 방법보다 해석 가능한 규칙 기반 추천 시스템이 더 높은 전환율을 달성할 수 있는가?
• RQ3 해석 가능한 규칙 수가 제한된 조건에서 변환된 방법의 성능은 기준 방법과 어떻게 비교되는가?
• RQ4 특히 항상 최적은 아니지만 특정 조건에서 최적이 되는 새로운 근접 최적의 프motion이 도입된 경우에도 이 방법이 강건하게 대응할 수 있는가?
• RQ5 전환 확률 추정의 예측 오차 상황에서 이 전환 방법이 규칙 기반 추천의 안정성과 품질을 얼마나 향상시키는가?

주요 결과

• 제안된 방법은 모든 해석 가능한 규칙 수에서 기준 방법 대비 유의미하게 높은 평균 전환율을 달성하며, 규칙 수가 감소할수록 격차가 더욱 커진다.
• 규칙 수가 6개로 고정된 경우, 제안된 방법의 전환율은 α가 증가함에 따라 매끄럽게 증가하며, α = 1일 때 상한선에 도달함으로써 새로운 근접 최적 프motion에 대한 강건성을 입증한다.
• 반면 기준 방법은 α = 1이어도 허구적 최적 프motion을 추천하지 못하며, 이는 훈련 데이터에 국소 최적 동작이 존재하기 때문이다.
• 특히 규칙 수 제약 조건이 낮을 경우, 이 전환 방법은 이론적 상한선에서의 이격도를 상당히 줄여주며 성능 향상을 이룬다.
• 결과적으로, 표본 및 클래스 종속 오분류 비용을 忽시할 경우, 심지어 각 고객에 대해 최적의 동작가 포함된 훈련 데이터가 있어도 비최적의 규칙 생성이 발생함을 보여준다.
• 이 방법은 분류기의 결정 경계가 데이터 불균형이나 국소 최적점에 의해 왜곡되는 대신 진정한 비용 구조와 일치하도록 보장함으로써 해석 가능한 모델의 신뢰성을 향상시킨다.