[논문 리뷰] Making Recommender Systems Forget: Learning and Unlearning for Erasable Recommendation

Yuyuan Li, Xiaolin Zheng외 2명|arXiv (Cornell University)|2022. 03. 22.

Machine Learning in Healthcare인용 수 6

한 줄 요약

이 논문은 공동 필터링 기반 추천 시스템에서 효율적이고 효과적인 데이터 삭제를 가능하게 하는 새로운 지우기 가능한 추천 프레임워크인 LASER를 제안한다. 초과그래프 기반 사용자 클러스터링과 균형 그룹 간 순차적 교육 과정 학습을 활용하여 LASER는 사용자 데이터의 완전한 삭제를 달성하면서도 모델의 유용성을 유지하며, 실제 데이터셋에서 최신 기술보다 효율성과 추천 정확도 측면에서 뛰어나다.

ABSTRACT

Privacy laws and regulations enforce data-driven systems, e.g., recommender systems, to erase the data that concern individuals. As machine learning models potentially memorize the training data, data erasure should also unlearn the data lineage in models, which raises increasing interest in the problem of Machine Unlearning (MU). However, existing MU methods cannot be directly applied into recommendation. The basic idea of most recommender systems is collaborative filtering, but existing MU methods ignore the collaborative information across users and items. In this paper, we propose a general erasable recommendation framework, namely LASER, which consists of Group module and SeqTrain module. Firstly, Group module partitions users into balanced groups based on their similarity of collaborative embedding learned via hypergraph. Then SeqTrain module trains the model sequentially on all groups with curriculum learning. Both theoretical analysis and experiments on two real-world datasets demonstrate that LASER can not only achieve efficient unlearning, but also outperform the state-of-the-art unlearning framework in terms of model utility.

연구 동기 및 목표

• GDPR와 같은 개인정보 보호 규정에 따라 사용자 단위의 데이터 삭제 문제를 해결하기 위해.
• 공동 필터링 모델에서 사용자 데이터의 기원을 효율적으로 제거하면서도 모델의 유용성을 유지하는 지우기 프레임워크를 개발하기 위해.
• 기존 머신 지우기 방법의 한계를 극복하기 위해, 사용자와 아이템 간의 공동 정보를 유지하지 못하는 문제를 해결하기 위해.
• 학습과 지우기 모두를 통합된 프레임워크에서 지원할 수 있는 확장 가능하고 이론적으로 타당한 지우기 과정을 설계하기 위해.

제안 방법

• LASER는 공동 임베딩을 초과그래프에서 유도한 바탕으로 사용자를 균형 잡힌 클러스터로 분할하는 Group 모듈을 사용하여 내부 유사도가 높고 데이터 분포가 균형 잡힌 클러스터를 확보한다.
• SeqTrain 모듈은 이러한 그룹을 쉽게부터 어려운 순서로 순차적으로 모델을 훈련시어 인간의 교육 과정 학습을 모방함으로써 모델 수렴성과 유용성을 향상시킨다.
• 각 그룹 내의 공동 정보의 양을 정량화하기 위해 공동 밀도(cohesive)를 지표로 도입하여 그룹화 및 훈련 과정을 안내한다.
• 모든 그룹의 크기가 동일하도록 제약 조건을 부여한 균형 잡힌 k-means 클러스터링 알고리즘을 사용하여 그룹 크기 균형을 확보하고 지우기 효율성을 최적화한다.
• 이론적 분석을 통해 균형 잡힌 그룹화가 기대 지우기 비용을 최소화하며, 모든 그룹이 동일한 크기일 때 기대 비용이 최소가 됨을 증명한다.
• 모델은 경험적 리스크 최소화를 통해 훈련되며, 그룹별 손실 및 성능 지표를 포함하는 베이지안 사전분포를 통해 유용성을 최대화한다.

Figure 1: A schematic view of learning and unlearning in recommendation.

실험 결과

연구 질문

• RQ1 공동 필터링 모델에서 사용자와 아이템 간의 공동 정보를 유지할 수 있는 머신 지우기 프레임워크를 설계할 수 있는가?
• RQ2 쉬운 순서에서 어려운 순서로 순차적으로 훈련하는 것이 지우기 과정 중 모델 유용성에 어떤 영향을 미치는가?
• RQ3 공동 임베딩 기반으로 사용자를 균형 잡힌 그룹으로 나누는 것이 지우기 효율성 향상과 계산 비용 감소에 기여하는가?
• RQ4 제안된 LASER 프레임워크는 기존의 지우기 기반 모델 대비 모델 유용성과 지우기 완전성 측면에서 어느 정도 뛰어나게 성능을 발휘하는가?

주요 결과

• LASER는 데이터 서브셋 재훈련을 통해 완전한 지우기(G1)를 달성하여, 대상 사용자 데이터의 기원이 모델에서 완전히 삭제됨을 보장한다.
• 균형 잡힌 그룹에서 순차적 훈련을 통해 공동 정보를 유지함으로써 모델 유용성(G3)을 향상시키며, NDCG 및 HR 지표에서 최신 기술(SOTA) 기반 지우기 방법보다 뛰어난 성능을 보인다.
• 균형 잡힌 그룹화가 기대 지우기 비용을 최소화하며, 이론적 증명을 통해 손실 함수 하에 모든 그룹이 동일한 크기일 때 기대 비용이 최소가 됨을 입증한다.
• ML-100K 및 Amazon-Books 데이터셋에서의 실증 결과는 LASER가 지우기 후에도 높은 추천 정확도를 유지하며, 다양한 유형의 지우기 요청에 걸쳐 NDCG@10과 HR@10에서 일관된 향상을 보임을 확인한다.
• 제안된 공동 임베딩 방법은 희박한 사용자-아이템 상호작용 대비 상당히 높은 공동 밀도를 제공함으로써 고차원의 사용자-아이템 관계를 효과적으로 포착함을 검증한다.

Figure 2: Overview of LASER framework.