[논문 리뷰] Respect for Human Autonomy in Recommender Systems

Lav R. Varshney|arXiv (Cornell University)|2020. 09. 05.

Motivation and Self-Concept in Sports참고 문헌 19인용 수 21

한 줄 요약

이 논문은 실험 심리학에서 유래한 자율성 확보 이론(Self-Determination Theory, SDT)을 활용하여 추천 시스템에 인간의 자율성 존중을 구현하기 위한 운영 프레임워크를 제안한다. 이는 자율성 지원을 측정하고 정량화할 수 있는 심리측정 도구인 자율적 기능 지수(Index of Autonomous Functioning, IAF)를 도입하여 사용자 통제력과 내재 동기를 유지하는 데이터 기반 설계를 가능하게 한다.

ABSTRACT

Recommender systems can influence human behavior in significant ways, in some cases making people more machine-like. In this sense, recommender systems may be deleterious to notions of human autonomy. Many ethical systems point to respect for human autonomy as a key principle arising from human rights considerations, and several emerging frameworks for AI include this principle. Yet, no specific formalization has been defined. Separately, self-determination theory shows that autonomy is an innate psychological need for people, and moreover has a significant body of experimental work that formalizes and measures level of human autonomy. In this position paper, we argue that there is a need to specifically operationalize respect for human autonomy in the context of recommender systems. Moreover, that such an operational definition can be developed based on well-established approaches from experimental psychology, which can then be used to design future recommender systems that respect human autonomy.

연구 동기 및 목표

• 추천 시스템이 강제적 영향력과 사용자 통제력 감소를 통해 인간의 자율성을 침해하는 윤리적 과제를 해결하기 위해.
• AI 시스템 설계에 통합하기에 적합한 공식적이고 측정 가능한 인간의 자율성 정의를 규명하기 위해.
• 사람의 자율성 존중과 같은 추상적인 윤리 원칙과 추천 시스템의 실질적, 시스템 수준의 구현 간 격차를 메우기 위해.
• 기존 심리학적 측정 도구가 AI 시스템의 자율성 존중 행동을 평가하고 개선하는 데 재활용될 수 있음을 입증하기 위해.

제안 방법

• 자율성은 핵심 심리적 욕구이므로 자율성 확보 이론(Self-Determination Theory, SDT)을 이론적 기반으로 삼는다.
• 개별 수준의 자율성을 측정하기 위해 검증된 심리측정 도구인 자율적 기능 지수(Index of Autonomous Functioning, IAF)를 활용한다.
• 사용자 집단 전반의 IAF 점수를 집계하여 시스템 수준의 자율성 지원을 평가하고, 개인의 특성을 시스템 성능 지표로 전환한다.
• 이 집계된 지표를 강화 학습에 인간 피드백(Reinforcement Learning with Human Feedback, RLHF) 프레임워크와 같은 추천 시스템 학습에서 설계 제약 조건이나 목표로 적용한다.
• 시스템 평가 파이프라인에 자율성 측정을 통합하여 정확성과 관련성 외에도 윤리적 일치를 보장한다.
• 시스템 간섭이 사용자 자율성에 미치는 영향을 경험적 심리학적 테스트를 통해 평가하는 피드백 기반 설계 방법론을 제안한다.

실험 결과

연구 질문

• RQ1 사람의 자율성 존중이라는 추상적인 윤리 원칙은 어떻게 추천 시스템에서 공식적으로 실현될 수 있는가?
• RQ2 IAF와 같은 기존 심리학적 측정 도구가 AI 시스템의 자율성 지원 행동을 얼마나 정확히 측정할 수 있는가?
• RQ3 개별 사용자 자율성 점수의 집단 수준 집계가 시스템 수준의 자율성 존중을 평가하기 위한 신뢰성 있고 확장 가능한 지표로 기능할 수 있는가?
• RQ4 정확성과 참여도와 같은 전통적 지표와 함께 또는 대체로 자율성을 설계 목표로 삼을 경우의 영향은 무엇인가?
• RQ5 강화 학습에 인간 피드백(RLHF)을 적용할 때 자율성을 학습된 보상 목표로 통합하기 위해 어떻게 수정할 수 있는가?

주요 결과

• 자율적 기능 지수(Index of Autonomous Functioning, IAF)는 자율성과 관련된 자기 일치, 관심 취득, 통제에 대한 저항성과 같은 영역에서 검증된 심리측정적으로 타당한 방법으로 개인의 인간 자율성을 측정할 수 있다.
• 사용자 전반의 IAF 점수를 집계함으로써 개인의 심리적 특성을 시스템 수준의 지표로 전환할 수 있으며, 이는 추천 시스템이 사용자 자율성을 얼마나 잘 존중하는지 평가하는 데 기여한다.
• 사용자 자율성을 감소시키는 추천 시스템은 예측 가능하고 창의성이 떨어지는 언어 사용과 같은 동질화된 행동을 유도할 수 있으며, 이는 예측 텍스트 시스템에서 입증된 바 있다.
• 자율성을 설계 목표로 통합함으로써 AI 기반 추천에 대한 과도한 의존으로 인한 사용자 능력 저하와 행동 위축의 위험을 완화할 수 있다.
• 사용자 참여도를 극대화하는 것과 자율성을 유지하는 것 사이에 명확한 상충 관계가 존재하며, 이는 시스템이 참여도 지표에만 최적화되어서는 안 된다는 것을 시사한다.
• 제안된 프레임워크는 능력, 유대감, 특히 자율성과 같은 심리적 욕구를 충족시키는 방식으로 설계되어 내재 동기와 자율성 확보를 지원하는 추천 시스템 개발을 가능하게 한다.