[논문 리뷰] Building Human Values into Recommender Systems: An Interdisciplinary Synthesis

Jonathan Stray, Alon Halevy외 19명|arXiv (Cornell University)|2022. 07. 20.

Decision-Making and Behavioral Economics참고 문헌 308인용 수 14

한 줄 요약

이 논문은 윤리학, 사회과학, 컴퓨터 과학 분야의 통합적 통찰을 바탕으로 추천 시스템에 인간의 가치—공정성, 투명성, 복지 등—을 통합하는 프레임워크를 제안한다. 가치 중심의 설계 원칙, 측정 방법, 정책 메커니즘을 제시하며, 다수의 이해관계자 간 가치 갈등과 장기적 결과 최적화와 같은 핵심 미해결 과제를 밝혀낸다.

ABSTRACT

Recommender systems are the algorithms which select, filter, and personalize content across many of the worlds largest platforms and apps. As such, their positive and negative effects on individuals and on societies have been extensively theorized and studied. Our overarching question is how to ensure that recommender systems enact the values of the individuals and societies that they serve. Addressing this question in a principled fashion requires technical knowledge of recommender design and operation, and also critically depends on insights from diverse fields including social science, ethics, economics, psychology, policy and law. This paper is a multidisciplinary effort to synthesize theory and practice from different perspectives, with the goal of providing a shared language, articulating current design approaches, and identifying open problems. It is not a comprehensive survey of this large space, but a set of highlights identified by our diverse author cohort. We collect a set of values that seem most relevant to recommender systems operating across different domains, then examine them from the perspectives of current industry practice, measurement, product design, and policy approaches. Important open problems include multi-stakeholder processes for defining values and resolving trade-offs, better values-driven measurements, recommender controls that people use, non-behavioral algorithmic feedback, optimization for long-term outcomes, causal inference of recommender effects, academic-industry research collaborations, and interdisciplinary policy-making.

연구 동기 및 목표

• 추천 시스템의 사회적 영향이 증가하는 상황을 고려하여 그 설계를 공유되는 인간의 가치에 기반하게 하기 위해.
• 기술적 추천 시스템 개발과 윤리학, 심리학, 법학, 정책 분야의 통찰 간 격차를 메우기 위해.
• 실제 시스템에서 가치 정의, 측정, 구현의 핵심 과제를 특정하고 명확히 하기 위해.
• 학계, 산업계, 정책 입안자 간의 다학제적 협력을 통해 책임감 있는 AI 시스템을 설계하기 위해.
• 가치 중심의 시각에서 추천 시스템의 평가 및 개선을 위한 공통의 개념적 프레임워크를 제공하기 위해.

제안 방법

• 컴퓨터 과학, 윤리학, 사회과학, 경제학, 법학 분야의 이론과 실천을 다학제적으로 통합한다.
• 공정성, 자율성, 투명성, 복지 등 다양한 분야에서 가장 관련성이 높은 핵심 가치 집합을 식별한다.
• 현재 산업 현장의 관행, 제품 설계 패턴, 측정 기법을 분석하여 인간의 가치와의 일치도를 평가한다.
• 비행동적 피드백과 시스템 영향의 인과적 추론을 포함한 가치 중심의 시스템 평가 프레임워크를 제안한다.
• 다수 이해관계자의 가치 정의 및 갈등 해결을 지원하기 위해 정책 및 거버넌스 모델을 통합한다.
• 장기적 결과 최적화 및 시스템의 책임성 향상을 위해 학계-산업계 연구 협력의 중요성을 홍보한다.

실험 결과

연구 질문

• RQ1 어떻게 추천 시스템 설계에서 인간의 가치를 체계적으로 식별하고 구현할 수 있는가?
• RQ2 실제 추천 시스템에서 경쟁하는 가치들(예: 개인화 대 다각성) 간의 핵심 갈등은 무엇인가?
• RQ3 사용자 참여 지표를 초월해 가치를 어떻게 측정하고 모니터링할 수 있는가?
• RQ4 비행동적 피드백과 인과적 추론은 추천의 장기적 사회적 영향 평가에 어떤 역할을 할 수 있는가?
• RQ5 다학제적 협력과 정책 프레임워크는 가치 기반 추천 시스템 개발을 어떻게 지원할 수 있는가?

주요 결과

• 공정성, 투명성, 자율성, 복지 등 핵심 가치 집합에 대해 일치된 견해가 형성되었으며, 이는 책임감 있는 추천 시스템에 필수적이다.
• 현재 산업 관행는 가치보다는 참여 지표를 우선시하여, 극단화 및 오락성 정보 확산과 같은 부작용을 초래하고 있다.
• 기존 측정 프레임워크는 장기적 결과나 복지, 신뢰도와 같은 비행동적 영향을 충분히 반영하지 못하고 있다.
• 기술적 추상화가 아닌 사용자가 사용할 수 있고 의미 있는 추천 제어 장치의 개발이 절실한 필요성이 있다.
• 다양한 이해관계자가 참여하는 가치 정의 과정, 시스템 영향의 인과적 추론, 지속 가능한 학계-산업계 협력 체제 수립은 여전히 미해결 과제이다.
• 논문은 장기적 결과 최적화를 핵심 과제로 지목하며, 특히 단기적 참여 지표와 사회적 복지 간의 갈등 상황에서의 도전을 강조한다.