[논문 리뷰] Personalizing Content Moderation on Social Media: User Perspectives on Moderation Choices, Interface Design, and Labor

Shagun Jhaver, Alice Qian Zhang외 4명|arXiv (Cornell University)|2023. 05. 17.

Hate Speech and Cyberbullying Detection인용 수 5

한 줄 요약

이 연구는 24명의 사용자 인터뷰를 통해 소셜미디어에서 개인 콘텐츠 모드레이션 도구에 대한 사용자 선호도를 조사하며, 독성 슬라이더, 단어 필터, 불리언 토글과 같은 시뮬레이션 인터페이스를 평가한다. 연구 결과는 사용자들이 모드레이션 도구에서 명확성, 맥락, 투명성을 중시하며, 플랫폼이나 신뢰할 수 있는 제3자 기관이 이러한 도구를 개발하는 것을 선호함을 보여주며, 사용자 통제력과 플랫폼의 책임을 강화하기 위해 더 직관적이고 책임감 있는 개인 모드레이션 설계의 필요성을 강조한다.

ABSTRACT

Social media platforms moderate content for each user by incorporating the outputs of both platform-wide content moderation systems and, in some cases, user-configured personal moderation preferences. However, it is unclear (1) how end users perceive the choices and affordances of different kinds of personal content moderation tools, and (2) how the introduction of personalization impacts user perceptions of platforms' content moderation responsibilities. This paper investigates end users' perspectives on personal content moderation tools by conducting an interview study with a diverse sample of 24 active social media users. We probe interviewees' preferences using simulated personal moderation interfaces, including word filters, sliders for toxicity levels, and boolean toxicity toggles. We also examine the labor involved for users in choosing moderation settings and present users' attitudes about the roles and responsibilities of social media platforms and other stakeholders towards moderation. We discuss how our findings can inform design solutions to improve transparency and controllability in personal content moderation tools.

연구 동기 및 목표

• 최종 사용자가 독성 슬라이더, 필터, 토글과 같은 다양한 종류의 개인 콘텐츠 모드레이션 도구를 어떻게 인지하고 선호하는지 이해하기.
• 사용자가 개인 모드레이션 설정을 구성함에 있어 연루된 노동과 인지적 부담을 분석하기.
• 플랫폼의 콘텐츠 모드레이션 책임과 제3자 개발자 역할에 대한 사용자의 태도 탐색하기.
• 개인화된 모드레이션 시스템에서 투명성, 통제 가능성, 사용자 신뢰를 향상시키는 설계 원칙 도출하기.

제안 방법

• 24명의 활동적인 소셜미디어 사용자와 함께 반구조화된 인터뷰를 실시하여 개인 모드레이션 도구 선호도 탐색.
• 독성 슬라이더, 단어 필터, 불리언 독성 토글의 세 가지 유형의 모드레이션 제어를 시험하기 위해 시뮬레이션된 소셜미디어 인터페이스를 설계 및 구현.
• 참가자 피드백을 활용해 인터페이스의 명확성, 인지된 통제력, 플랫폼 및 제3자 역할에 대한 사용자 태도 분석.
• 모드레이션 설정에서 '독성'이나 '민감도'와 같은 용어의 모호함에 대한 사용자 인식 평가.
• 사용자가 설정한 개인 모드레이션과 플랫폼 전체 기준 규칙 간의 공정성과 합법성에 대한 인식 탐색.
• 학술 기관이나 비영리 기관이 개발한 도구와 플랫폼이 개발한 도구 간의 사용자 수용 가능성에 대한 통찰 수집.

실험 결과

연구 질문

• RQ1 사용자들은 독성 슬라이더, 필터, 토글과 같은 다양한 인터페이스 설계를 개인 콘텐츠 모드레이션 도구로 어떻게 인지하고 선호하는가?
• RQ2 사용자들은 개인 모드레이션 설정을 구성함에 있어 어떤 인지적 및 정서적 노동을 연루한다고 느끼는가?
• RQ3 플랫폼과 제3자 기관이 개인 모드레이션 도구를 개발하고 유지보수하는 데 있어 사용자들은 어떤 책임을 기대하는가?
• RQ4 명확성, 맥락, 정당화가 사용자 신뢰 및 개인 모드레이션 도구 수용에 어떤 역할을 하는가?
• RQ5 사용자들은 독성, 공격성, 미소니즘 등 다양한 종류의 콘텐츠에 대해 개인 모드레이션 선호도가 어떻게 다름을 인지하는가?

주요 결과

• 사용자들은 '독성'과 같은 모호한 용어를 다룰 때 더 명확하고 통제력이 있는 것으로 느끼기 때문에, 슬라이더보다 단어 필터와 불리언 토글을 더 선호함을 명시함.
• 많은 참가자들이 '공격성'이나 '미소니즘'과 같은 추상적 개념을 다루는 슬라이더를 혼란스럽고 심지어 심각한 언어적 해를 정상화하거나 경시하는 데 악영향을 줄 수 있다고 우려함.
• 용어가 모호하거나 맥락이 부족할 경우 모드레이션 설정을 구성하는 데 상당한 인지적 부담을 느끼며, 이로 인해 좌절감과 이탈 경향이 발생함.
• 상업적 플랫폼보다 학술 기관이나 신뢰할 수 있는 비영리 기관이 개발한 개인 모드레이션 도구를 더 신뢰하고 사용할 의사가 있음.
• 모드레이션 용어의 명확한 정의와 콘텐츠 필터링 결정의 정당화 필요성을 강조함.
• 개인화에 대한 관심이 있음에도 불구하고, 참가자들은 개인 도구가 플랫폼의 효과적인 기본 콘텐츠 모드레이션 책임을 면제하지는 않아야 한다고 강조함.