[論文レビュー] A Comprehensive Survey on Trustworthy Recommender Systems

Wenqi Fan, Xiangyu Zhao+9 more|arXiv (Cornell University)|Sep 21, 2022

Blockchain Technology Applications and Security被引用数 15

ひとこと要約

本サーベイは、安全性・耐障害性、公平性、説明可能性、プライバシー、環境的健全性、責任性の6つのコア次元を体系的に分析することで、信頼性のあるレコメンデーションシステム（TRec）の包括的フレームワークを提示する。最先端の技術を統合し、特に次元間の相互作用に関する重要な研究ギャップを特定するとともに、信頼性のあるAIを推進する統合的技術エコシステムの構築を提言する。

ABSTRACT

As one of the most successful AI-powered applications, recommender systems aim to help people make appropriate decisions in an effective and efficient way, by providing personalized suggestions in many aspects of our lives, especially for various human-oriented online services such as e-commerce platforms and social media sites. In the past few decades, the rapid developments of recommender systems have significantly benefited human by creating economic value, saving time and effort, and promoting social good. However, recent studies have found that data-driven recommender systems can pose serious threats to users and society, such as spreading fake news to manipulate public opinion in social media sites, amplifying unfairness toward under-represented groups or individuals in job matching services, or inferring privacy information from recommendation results. Therefore, systems' trustworthiness has been attracting increasing attention from various aspects for mitigating negative impacts caused by recommender systems, so as to enhance the public's trust towards recommender systems techniques. In this survey, we provide a comprehensive overview of Trustworthy Recommender systems (TRec) with a specific focus on six of the most important aspects; namely, Safety & Robustness, Nondiscrimination & Fairness, Explainability, Privacy, Environmental Well-being, and Accountability & Auditability. For each aspect, we summarize the recent related technologies and discuss potential research directions to help achieve trustworthy recommender systems in the future.

研究の動機と目的

• データ駆動型レコメンデーションシステムが引き起こす社会的・個人的リスク（偏見、プライバシー漏洩、敵対的攻撃など）に対する懸念が高まる中、それらに対処すること。
• パフォーマンス指標を超えて、信頼性のあるレコメンデーションシステムの評価と構築を可能にする統一的で多次元的なフレームワークを確立すること。
• 説明可能性と環境的コストの間のトレードオフなど、複数の信頼性次元間の重要な研究ギャップを特定し、新たな研究方向性を提案すること。
• 再現可能でスケーラブルな研究を支援するため、標準化された技術エコシステム（データセット、メトリクス、ツールキットを含む）の開発を提言すること。

提案手法

• 信頼性のあるレコメンデーションシステム（TRec）を、安全性・耐障害性、差別の防止・公平性、説明可能性、プライバシー、環境的健全性、責任性・監査可能性の6つのコア次元に分類する。
• 各次元における代表的な手法や技術をレビューする。具体的には、耐障害性のための敵対的訓練、公平性正則化、対戦的説明、モデル学習における微分散プライバシー、環境的影響を軽減するためのモデル効率化技術など。
• 次元間の相互作用を分析する。たとえば、説明可能性と環境的コストのトレードオフ、またはモデル設計におけるプライバシーと耐障害性の対立など。
• ドメイン固有のデータセット（例：公平性向けのKuaiRec）、評価メトリクス、オープンソースのツールキットを含む、標準化された技術エコシステムの構築の必要性を提言する。これにより、多次元的なベンチマークが可能になる。
• 実世界の応用事例（例：LinkedInのBERTベースの求人レコメンデーション、YouTubeのDNNベースの動画推薦システム）を用いて、生産環境における信頼性次元の実装方法を説明する。
• EUのTAI指針に含まれる倫理的AIの原則を、レコメンデーションシステムの技術的設計に統合する。これにより、技術的解決策と社会的価値が一致するようにする。

実験結果

リサーチクエスチョン

• RQ1 敵対的攻撃に対して耐性を持つレコメンデーションシステムを構築する際、公平性とプライバシーを同時に維持する方法は何か？
• RQ2 説明可能性と環境的コストの間で生じる主な技術的トレードオフや、複数の信頼性次元間の対立は何か？
• RQ3 プライバシー保護技術を、深層学習ベースのレコメンデーションモデルにおける公平性と耐障害性と効果的に統合する方法は何か？
• RQ4 現在の研究エコシステムに欠けている、多次元的な信頼性のあるレコメンデーションシステムの開発と評価を阻害する主要な構成要素は何か？
• RQ5 生産環境のレコメンデーションシステムにおいて、責任性と制御可能性を技術的に実現する方法は何か？ これにより、有害な結果を低減できる。

主な発見

• 現在の研究の多くは単一の信頼性次元に焦点を当てており、公平性・耐障害性や説明可能性・プライバシーの組み合わせを検討する研究はごくわずかであり、多次元的設計における大きな研究ギャップが浮き彫りになっている。
• 次元間の対立は一般的である。たとえば、説明可能性モジュールを追加するとモデルの複雑性とエネルギー消費が増加し、環境的健全性を損なう可能性がある。
• 環境的健全性や責任性といった主要な次元に対して、標準化されたデータセットや評価ツールキットが現在存在しないため、再現性やベンチマークの実現が制限されている。
• KuaiRecのような最近の研究は差別の防止に取り組んではいるが、責任性や環境的影響について同様の取り組みは不足しており、ドメイン固有のデータとメトリクスの開発が急務である。
• 対戦的説明のような説明可能性技術は、透明性の向上に効果的であると同時に、一部のケースではプライバシー漏洩の緩和にも寄与している。
• EUのTAI指針に由来する倫理的AIの原則を技術的設計に統合することは、必須であるが、現在のレコメンデーションシステム研究ではあまり検討されていない。