[論文レビュー] Respect for Human Autonomy in Recommender Systems

Lav R. Varshney|arXiv (Cornell University)|Sep 5, 2020

Motivation and Self-Concept in Sports参考文献 19被引用数 21

ひとこと要約

この論文は、実験心理学における自己決定理論を活用して、推薦システムに人間の自律性を統合する運用フレームワークを提案する。心理的尺度としての自律的機能インデックス（IAF）を導入し、自律的支援を測定・定量化することで、ユーザーのコントロールと内的動機づけを維持するデータドリブンなシステム設計を可能にする。

ABSTRACT

Recommender systems can influence human behavior in significant ways, in some cases making people more machine-like. In this sense, recommender systems may be deleterious to notions of human autonomy. Many ethical systems point to respect for human autonomy as a key principle arising from human rights considerations, and several emerging frameworks for AI include this principle. Yet, no specific formalization has been defined. Separately, self-determination theory shows that autonomy is an innate psychological need for people, and moreover has a significant body of experimental work that formalizes and measures level of human autonomy. In this position paper, we argue that there is a need to specifically operationalize respect for human autonomy in the context of recommender systems. Moreover, that such an operational definition can be developed based on well-established approaches from experimental psychology, which can then be used to design future recommender systems that respect human autonomy.

研究の動機と目的

• 推薦システムが強制的影響やユーザーのコントロール低下によって人間の自律性を損なうという倫理的課題に対処すること。
• AIシステム設計への統合に適した形式的で測定可能な人間の自律性の定義を特定すること。
• 人間の自律性尊重という抽象的な倫理的原則と、推薦システムにおける実践的・システムレベルの実装との間のギャップを埋めること。
• 既存の心理学的指標が、AIシステムにおける自律性尊重行動の評価と改善に再利用可能であることを示すこと。

提案手法

• 自己決定理論（SDT）を理論的基盤とし、自律性をコアな心理的ニーズとして焦点化する。
• 自律的機能インデックス（IAF）を、個人レベルの自律性を測定する妥当な心理的測定器具として活用する。
• ユーザー集団全体におけるIAFスコアを集約し、個人の特性をシステムレベルの自律的支援指標に変換する。
• この集約スコアを、強化学習における人間フィードバック（RLHF）フレームワークを含む推薦システムの学習において、設計制約または目的として適用する。
• システム評価パイプラインに自律性測定を統合し、正確性や関連性を超えた倫理的整合性を保証する。
• システム干渉のユーザー自律性に与える影響を実証的心理学的テストを用いて評価するフィードバックベースの設計手法を提唱する。

実験結果

リサーチクエスチョン

• RQ1 抽象的な倫理的原則たる人間の自律性尊重を、推薦システムにおいて形式的に運用可能にできるか。
• RQ2 IAFのような既存の心理学的指標が、AIシステムの自律的支援行動をどの程度正確に測定できるか。
• RQ3 個人の自律性スコアを集団レベルで集約することは、システムレベルの自律性尊重を評価するための信頼性がありスケーラブルな指標として適しているか。
• RQ4 従来の正確性やエンゲージメントといった指標と併用または代替して、自律性を設計目的として採用した場合の影響は何か。
• RQ5 人間フィードバックを用いた強化学習は、自律性を学習可能な報酬目的としてどのように適合できるか。

主な発見

• 自律的機能インデックス（IAF）は、自己一致、関心の受容、コントロールへの抵抗といった側面において、個人の自律性を妥当かつ心理的尺度として測定する手法を提供する。
• ユーザー間でのIAFスコアの集約により、個人の心理的特性を推薦システムがユーザーの自律性をどの程度尊重しているかを評価するシステムレベルの指標に変換できる。
• ユーザーの自律性を低下させる推薦システムは、予測テキストシステムの事例で示されるように、より予測可能で創造性に乏しい言語使用へと同調化する傾向がある。
• 自律性を設計目的として統合することで、AI駆動の推薦に依存しすぎることによるユーザーのスキル低下や行動の萎縮を是正できる。
• ユーザーのエンゲージメントを最大化することと自律性を維持することは明確なトレードオフとなっており、システムがエンゲージメント指標のみを最適化すべきではないことを示唆している。
• 提案されたフレームワークにより、能力、関係性、特に自律性という心理的ニーズと整合することで、内的動機づけと自己決定を支援する推薦システムの開発が可能になる。