[논문 리뷰] Embedding Democratic Values into Social Media AIs via Societal Objective Functions

Chenyan Jia, Michelle S. Lam외 3명|arXiv (Cornell University)|2023. 07. 26.

Social Media and Politics참고 문헌 89인용 수 4

한 줄 요약

이 논문은 사회과학적 구조를 사회적 목적 함수로 변환함으로써 소셜미디어 AI 피드 순위 알고리즘에 민주적 가치—특히 정당 간 적대감 감소—를 통합하는 방법을 제안한다. 대규모 언어 모델(Large Language Models, LLMs)을 활용해 게시물의 반민주적 태도를 평가함으로써, 저자들은 세 연구를 통해 반민주적 내용의 순위를 낮추는 것이 사용자 참여도를 해치지 않으면서도 정당 간 적대감을 상당히 감소시킨다는 것을 입증한다.

ABSTRACT

Can we design artificial intelligence (AI) systems that rank our social media feeds to consider democratic values such as mitigating partisan animosity as part of their objective functions? We introduce a method for translating established, vetted social scientific constructs into AI objective functions, which we term societal objective functions, and demonstrate the method with application to the political science construct of anti-democratic attitudes. Traditionally, we have lacked observable outcomes to use to train such models, however, the social sciences have developed survey instruments and qualitative codebooks for these constructs, and their precision facilitates translation into detailed prompts for large language models. We apply this method to create a democratic attitude model that estimates the extent to which a social media post promotes anti-democratic attitudes, and test this democratic attitude model across three studies. In Study 1, we first test the attitudinal and behavioral effectiveness of the intervention among US partisans (N=1,380) by manually annotating (alpha=.895) social media posts with anti-democratic attitude scores and testing several feed ranking conditions based on these scores. Removal (d=.20) and downranking feeds (d=.25) reduced participants' partisan animosity without compromising their experience and engagement. In Study 2, we scale up the manual labels by creating the democratic attitude model, finding strong agreement with manual labels (rho=.75). Finally, in Study 3, we replicate Study 1 using the democratic attitude model instead of manual labels to test its attitudinal and behavioral impact (N=558), and again find that the feed downranking using the societal objective function reduced partisan animosity (d=.25). This method presents a novel strategy to draw on social science theory and methods to mitigate societal harms in social media AIs.

연구 동기 및 목표

• 소셜미디어 AI 알고리즘이 정당 간 적대감을 증폭시켜 사회에 악영향을 미치는 문제를 해결하기 위해.
• 정당 간 적대감을 완화하기 위한 AI 시스템을 훈련시키기 위해 관측 가능하고 알고리즘적으로 활용 가능한 결과가 부족한 문제를 해결하기 위해.
• 반민주적 태도와 같은 철저히 검증된 사회과학적 구조를 실질적이고 측정 가능한 AI 시스템의 목표로 변환하는 방법을 개발하기 위해.
• 이러한 사회적 목적 함수를 피드 순위 알고리즘에 통합함으로써 정당 간 적대감을 감소시키고 사용자 참여도를 유지할 수 있는지 평가하기 위해.
• 자유로운 표현, 가치 간 상충, 소외된 공동체에 대한 차별적 영향과 같은 위험 요소를 고려하여 윤리적 구현을 보장하기 위해.

제안 방법

• 반민주적 태도에 대한 기존 사회과학 설문지 및 질적 코드북을 LLM이 이해할 수 있는 세부적인 프롬프트로 변환하기.
• 이 프롬프트를 기반으로 대규모 언어 모델(LLM)을 훈련시켜 '민주적 태도 모델'을 구축함으로써, 소셜미디어 게시물이 반민주적 태도를 얼마나 강하게 지지하는지 추정한다.
• 민주적 태도 모델을 활용해 소셜미디어 게시물에 대해 자동으로 레이블을 생성하고, 수동 주석과의 비교를 통해 검증함 (가중치 Kappa = .895).
• 반민주적 태도 점수가 높은 게시물을 순위를 낮추거나 제거하는 사회적 목적 함수를 피드 순위에 통합하기.
• 사용자 태도 및 행동에 미치는 영향을 테스트하기 위해 랜덤화된 피드 순위 조건을 적용한 통제 실험 설계하기.
• 세 연구를 통해 방법의 유효성을 검증함: 수동 주석(연구 1), 모델 스케일링(연구 2), 자동화된 간섭(연구 3).

실험 결과

연구 질문

• RQ1 반민주적 태도 기반의 사회적 목적 함수를 통합한 소셜미디어 피드 순위 알고리즘이 사용자 간 정당 간 적대감을 감소시킬 수 있는가?
• RQ2 반민주적 태도 점수가 높은 게시물을 순위를 낮추거나 제거하면 사용자 참여도와 경험에 영향을 미치는가?
• RQ3 LLM 기반의 민주적 태도 모델이 인간 주석 기반의 반민주적 콘텐츠 평가와 얼마나 잘 일치하는가?
• RQ4 이 사회적 목적 함수 방법은 사용자 경험을 훼손하지 않고 실제 환경에서 스케일업 및 복제가 가능한가?
• RQ5 알고리즘 순위 시스템에 민주적 규범과 같은 사회적 가치를 통합할 경우 발생할 수 있는 윤리적 위험과 상충 요소는 무엇인가?

주요 결과

• 연구 1에서 반민주적 콘텐츠가 제거된 경우 정당 간 적대감이 약간에서 중간 정도의 효과 크기(d = .20)로 감소함.
• 연구 1에서 이러한 콘텐츠의 순위를 낮춘 결과 정당 간 적대감이 중간 정도의 효과 크기(d = .25)로 감소하였고, 사용자 참여도에 유의미한 부정적 영향이 없었음.
• LLM 기반의 민주적 태도 모델은 수동 주석과 높은 일치도를 보였음 (Spearman의 rho = .75), 이는 신뢰성의 타당성을 입증함.
• 연구 3에서 수동 주석 대신 자동화된 모델을 사용해 순위를 낮추는 간섭을 재현한 결과 여전히 정당 간 적대감이 감소함 (d = .25), 이는 확장 가능성의 확인.
• 사회과학적 구조를 알고리즘적 목표로 성공적으로 변환함으로써 AI 시스템에서 발생하는 사회적 해를 측정 가능하게 감소시킬 수 있었음.
• 이 방법은 사용자 참여도를 유지하면서도 부정적인 정치적 정서를 감소시키므로, 소셜미디어 플랫폼에서 가치 기반 AI 설계를 위한 실현 가능한 길을 제시함.