[논문 리뷰] Solutions to preference manipulation in recommender systems require knowledge of meta-preferences

Hal Ashton, Matija Franklin|arXiv (Cornell University)|2022. 09. 14.

Data Management and Algorithms인용 수 21

한 줄 요약

논문은 추천 시스템에서 선호 편향 조작을 해결하려면 사용자의 메타 선호도(선호에 대한 선호도)를 학습해 자율성을 존중하고 환영받는 변화와 원하지 않는 변화를 구분해야 한다고 주장한다.

ABSTRACT

Iterative machine learning algorithms used to power recommender systems often change people's preferences by trying to learn them. Further a recommender can better predict what a user will do by making its users more predictable. Some preference changes on the part of the user are self-induced and desired whether the recommender caused them or not. This paper proposes that solutions to preference manipulation in recommender systems must take into account certain meta-preferences (preferences over another preference) in order to respect the autonomy of the user and not be manipulative.

연구 동기 및 목표

• 반복적 추천 시스템에서 선호 조작 문제를 고무한다.
• 자율성을 존중하기 위한 선호에 대한 선호로서 메타-선호를 소개한다.
• 기존 솔루션이 사용자 메타-선호를 고려하지 못한다고 주장한다.
• 메타-선호 학습이 사용자 목표에 맞춘 추천의 정렬을 개선할 수 있다고 제안한다.

제안 방법

• ML 주도 추천 시스템에서의 선호 조작에 대한 개념적 분석.
• 메타-선호와 그들의 시계적(추동) 측면의 정의와 예시.
• 자율성 존중의 메커니즘으로서 선호 변화 선호와 동의의 논의.
• 조작적 변화에 저항하기 위해 추천 설계에 메타-선호 학습 도입 제안.

실험 결과

연구 질문

• RQ1 메타-선호도가 사용자 선호의 환영받는 변화와 원하지 않는 변화 또는 조작적 변화를 구분할 수 있는가?
• RQ2 실제로 사용자들의 메타-선호를 학습하고 존중하는 방법은 무엇인가?
• RQ3 선호 변화 선호와 동의는 조작 완화에 어떤 역할을 하는가?
• RQ4 예시 기반 설명을 통한 메타-선호 추출이 자율성 인식 추천에 어느 정도 도움이 될 수 있는가?

주요 결과

• 선호 조작에 대한 현재의 솔루션(예: 반사실적/대체적 혹은 자연적 변화 페널티)은 메타-선호를 고려하지 못해 불충분하다고 평가된다.
• 메타-선호는 선호에 대한 선호로 정의되며 시계적 및 추동적 측면을 포함한다.
• 메타-선호를 이해하면 사용자가 실제로 원하는 것과 자율성을 보존하면서 추천을 정렬하는 데 도움이 될 수 있다.
• 선호 변화 동의와 메타-선호 추출은 사용자에게 경고를 주거나 학습 신호를 조정하는 데 사용될 수 있다.
• 예시 기반 XAI 설명은 메타-선호 추출과 정렬의 방법으로 제안된다.