[論文レビュー] Solutions to preference manipulation in recommender systems require knowledge of meta-preferences

Hal Ashton, Matija Franklin|arXiv (Cornell University)|Sep 14, 2022

Data Management and Algorithms被引用数 21

ひとこと要約

本論文では、推奨システムにおける嗜好操作への対処には、ユーザーのメタ嗜好（嗜好に関する嗜好）を学習して自律性を尊重し、歓迎される変動と歓迎されない変動を区別することが必要であると主張している。

ABSTRACT

Iterative machine learning algorithms used to power recommender systems often change people's preferences by trying to learn them. Further a recommender can better predict what a user will do by making its users more predictable. Some preference changes on the part of the user are self-induced and desired whether the recommender caused them or not. This paper proposes that solutions to preference manipulation in recommender systems must take into account certain meta-preferences (preferences over another preference) in order to respect the autonomy of the user and not be manipulative.

研究の動機と目的

• 反復的な推薦システムにおける嗜好操作の問題を動機づける。
• ユーザーの自律性を尊重するための嗜好に対する嗜好（メタ嗜好）を導入する。
• 既存の解決策がユーザーのメタ嗜好を考慮していないと主張する。
• メタ嗜好の学習が推奨をユーザーの目標とより適合させる可能性を提案する。

提案手法

• ML 主導の推奨システムにおける嗜好操作の概念分析。
• メタ嗜好の定義とその時点横断的（意志的・行動的）側面の説明。
• 自律性を尊重する機構としての『嗜好変更嗜好』と同意についての検討。
• 操作的な変動に抵抗するための推奨設計へメタ嗜好学習を組み込む提案。

実験結果

リサーチクエスチョン

• RQ1 メタ嗜好は歓迎される変化と歓迎されない、あるいは操作的な変化を区別できるか？
• RQ2 推奨システムは実践的にどのようにしてユーザーのメタ嗜好を学習し尊重できるか？
• RQ3 嗜好変更嗜好と同意は操作の緩和にどのような役割を果たすか？
• RQ4 例示ベースの説明を通じたメタ嗜好のエリシテーションは自律性を意識した推奨にどの程度役立つか？

主な発見

• 嗜好操作への現行の解決策（例えば反事実的ペナルティや自然変化ペナルティ）は、メタ嗜好を考慮していないとして満足できるものではないと評価されている。
• メタ嗜好は嗜好に対する嗜好として定義され、時点間的な側面と意志・行動的な側面を含む。
• メタ嗜好を理解することは、自律性を保ちつつ推奨をユーザーが実際に望むものと一致させるのに役立つ可能性がある。
• 嗜好変更同意とメタ嗜好エリシテーションは、ユーザーに警告を出したり学習信号を調整するために用いられる可能性がある。
• 例に基づくXAIの説明が、メタ嗜好のエリシテーションと整合の方法として提案されている。