[논문 리뷰] Bridging Systems: Open Problems for Countering Destructive Divisiveness across Ranking, Recommenders, and Governance

Aviv Ovadya, Luke Thorburn|arXiv (Cornell University)|2023. 01. 24.

Social Media and Politics인용 수 17

한 줄 요약

이 논문은 Bridging Systems와 집중 할당 프레임워크를 랭킹, 집단 응답 및 거버넌스에 걸쳐 제시하고, 분열에 대응하기 위한 미해결 문제들을 개요화한다.

ABSTRACT

Divisiveness appears to be increasing in much of the world, leading to concern about political violence and a decreasing capacity to collaboratively address large-scale societal challenges. In this working paper we aim to articulate an interdisciplinary research and practice area focused on what we call bridging systems: systems which increase mutual understanding and trust across divides, creating space for productive conflict, deliberation, or cooperation. We give examples of bridging systems across three domains: recommender systems on social media, collective response systems, and human-facilitated group deliberation. We argue that these examples can be more meaningfully understood as processes for attention-allocation (as opposed to "content distribution" or "amplification") and develop a corresponding framework to explore similarities - and opportunities for bridging - across these seemingly disparate domains. We focus particularly on the potential of bridging-based ranking to bring the benefits of offline bridging into spaces which are already governed by algorithms. Throughout, we suggest research directions that could improve our capacity to incorporate bridging into a world increasingly mediated by algorithms and artificial intelligence.

연구 동기 및 목표

• Bridging을 주의 할당자의 속성으로 정의하고, 분열 간 상호 이해 증진이라는 사회적 목표를 명확히 제시한다.
• 추천 시스템, 집단 응답 도구, 인간 촉진을 연결하는 학제간 프레임워크를 제시한다.
• 알고리즘 시스템과 인간 시스템에서 Bridging을 구현하기 위한 신호, 지표 및 데이터 모델링 접근법을 제안한다.
• 브리딩 시스템의 평가 도전과제, 위험, 구현 한계를 식별한다.
• 교차 도메인 협력과 책임 있는 배치를 촉진하기 위한 구체적인 열린 연구 질문들을 제시한다.

제안 방법

• 추천 시스템, 집단 응답 시스템, 인간 주도 심의의 세 영역에 적용 가능한 주의 할당 프레임워크를 개발한다.
• 할당 및 학습 과정을 형식화하고, 상태 및 예측 모델과 할당을 인도하는 가치 모델을 포함한다.
• 브리징 최적화를 위한 신호와 지표를 최적화 스택 내에서 활용하도록 도입한다.
• 브리징 시스템의 평가 접근법을 논의하고 실용적 평가 고려사항을 제시한다.
• 실용적 예시의 계통분류와 실행 가능한 연구 방향의 분류를 제공하고, 실무자와 연구자를 위한 그린 박스 및 블루 박스 지침을 강조한다.

Figure 1: A causal loop diagram illustrating how bridging systems might impact society. The goal of this diagram is not to make strong, precise claims about causality, but simply to provide intuition on how a proliferation of bridging systems could have important and beneficial societal consequences

실험 결과

연구 질문

• RQ1 다른 도메인(랭킹, 집단 응답, 심의)에서 브리징을 보상하는 시스템은 어떤 모습이며 어떻게 설계할 수 있는가?
• RQ2 브리징을 주의 할당자의 속성으로 작동하도록 만들고 이를 최적화 프레임워크에 통합하는 방법은?
• RQ3 브리징 결과를 신뢰성 있게 구현하고 측정하기 위한 신호, 지표 및 데이터 모델은 무엇인가?
• RQ4 브리징 시스템 구현에서의 평가 도전과제, 한계 및 위험은 무엇이며 이를 어떻게 완화할 수 있는가?
• RQ5 교차 도메인 연구와 브리징 시스템의 안전한 배치를 가속화할 수 있는 열린 문제는 무엇인가?

주요 결과

• 아이디어: 브리징 시스템은 갈등을 없애거나 동질화를 강요하기보다는 분열 간 상호 이해와 신뢰를 높이는 것을 목표로 한다.
• 프레임워크: 주의 할당을 추천 시스템, 집단 응답, 촉진 시스템을 비교하는 통일 렌즈로 제시한다.
• 개념: 교차 분열 정렬에 보상하도록 랭킹 및 할당 목표를 재설계하여 다리(브리지)를 실현할 수 있다(예: 다양한 승인 모티프).
• 도구화: 실제 시스템에서 브리징의 개발과 평가를 안내하기 위한 신호, 지표 및 최적화 스택을 제안한다.
• 범위: 학제간 연구 방향을 강조하고 브리징 구현의 도전과제, 한계 및 위험을 식별한다.

Figure 2: A simple example of bridging-based ranking. Under engagement-based ranking, posts are ranked highly for a user if they are liked by similar users, regardless of the stance of dissimilar users. In contrast, under bridging-based ranking—formalized here using a diverse approval motif (Section