[논문 리뷰] The Paradox of Information Access: Growing Isolation in the Age of Sharing

Tarek Abdelzaher, Heng Ji외 6명|arXiv (Cornell University)|2020. 04. 04.

Misinformation and Its Impacts인용 수 7

한 줄 요약

이 논문은 '정보 접근의 역설'을 규명한다—즉, 글로벌 정보 접근성이 증가함에 따라 편향된 콘텐츠 정렬과 선택적 노출로 인해 이데올로기적 분열이 심화되는 현상이다. 이에 대비해 기밀성 있는 콘텐츠 기원 추적, 알고리즘 기반 사실 확인, 편향 감소 콘텐츠 정렬, 개괄적 요약 기술과 같은 기술적 대응 전략을 제안하여 온라인 미디어에서의 극단화와 오락성 정보 유포를 줄이려 한다.

ABSTRACT

Modern online media, such as Twitter, Instagram, and YouTube, enable anyone to become an information producer and to offer online content for potentially global consumption. By increasing the amount of globally accessible real-time information, today's ubiquitous producers contribute to a world, where an individual consumes vanishingly smaller fractions of all produced content. In general, consumers preferentially select information that closely matches their individual views and values. The bias inherent in such selection is further magnified by today's information curation services that maximize user engagement (and thus service revenue) by filtering new content in accordance with observed consumer preferences. Consequently, individuals get exposed to increasingly narrower bands of the ideology spectrum. Societies get fragmented into increasingly ideologically isolated enclaves. These enclaves (or echo-chambers) then become vulnerable to misinformation spread, which in turn further magnifies polarization and bias. We call this dynamic the paradox of information access; a growing ideological fragmentation in the age of sharing. This article describes the technical, economic, and socio-cognitive contributors to this paradox, and explores research directions towards its mitigation.

연구 동기 및 목표

• 정보 접근 증가가 초래하는 사회적 영향, 특히 이데올로기적 에코 챔버와 극단화의 증가를 분석하는 것.
• 온라인 미디어 플랫폼에서 정보 접근의 역설을 이끄는 기술적, 경제적, 사회인지적 원인을 규명하는 것.
• 이데올로기적 분열을 줄이기 위한 실천 가능한 완화 전략—예: 기밀성 있는 기원 추적, 사실 확인, 편향 제거 정렬—을 제안하는 것.
• 대립하는 도덕적 관점을 요약하는 정보 정제 도구를 구현할 때 발생하는 윤리적, 인센티브 기반, 규제적 과제를 탐색하는 것.
• 알고리즘 기반 정렬 시스템에서 콘텐츠의 중립성과 품질을 측정 가능한 지표로 정의하고 표준화하기 위한 연구를 촉진하는 것.

제안 방법

• 기존 사용자 신념을 강화하는 콘텐츠의 우선순위를 낮춤으로써 편향을 줄이는 알고리즘 기반 정보 정렬 시스템을 제안한다.
• 정보를 압축하고 인지적 과부하를 줄여 다양한 시각에 노출되는 것을 향상시키기 위해 개괄적 요약 기법을 도입한다.
• 정보 출처에 대한 신뢰를 확보하고 오락성 정보를 추적하기 위해 기밀성 있는 콘텐츠 기원 추적을 촉진한다.
• 사실 일관성과 출처 신뢰도 기반으로 오락성 정보를 탐지하고 경고하는 데 머신러닝 모델을 통합할 것을 제안한다.
• 다양한 윤리적 관점에서 유도된 주장을 요약하고 제시함으로써 사용자가 내재된 가치를 더 잘 인식할 수 있도록 도와주는 도덕적 추론 모델의 활용을 탐색한다.
• 참여 유도 알고리즘 피드백 루프를 상쇄하기 위해 다양한 콘텐츠에 참여하는 사용자를 보상하는 인centive-compatible 시스템을 설계할 것을 권고한다.

실험 결과

연구 질문

• RQ1 트위터나 유튜브와 같은 플랫폼에서의 사용자 생성 콘텐츠 급증이 글로벌 접근성 향상에도 불구하고 어떻게 이데올로기적 분열을 초래하는가?
• RQ2 사용자 참여를 우선시하는 알고리즘 기반 정렬 시스템이 기존의 인지적 편향을 강화하고 극단화를 심화시키는 정도는 어느 정도인가?
• RQ3 기계 지능 도구가 특정 윤리적 관점에서 설득력 있는 도덕적 근거를 가진 주장을 자동으로 생성할 수 있는가? 이를 통해 정보 리터러시를 향상시킬 수 있는가?
• RQ4 에코 챔버를 완화하기 위해 공개 콘텐츠에서 도덕적 추론을 분석하고 요약하는 시스템을 운영할 때 발생하는 윤리적 및 개인정보 보호적 갈등은 무엇인가?
• RQ5 정보 정렬 시스템이 콘텐츠 가시성에서 중립성, 품질, 공정성을 유지하기 위해 필요한 규제 및 기술 프레임워크는 무엇인가?

주요 결과

• 정보 접근의 역설은 글로벌 콘텐츠 가용성이 증가함에도 불구하고 편향된 정렬로 인해 개인의 정보 커버리지가 감소하고 이데올로기적 고립이 심화되면서 발생한다.
• 사용자 참여를 최적화하는 정보 정렬 시스템은 기존 신념을 강화시켜 노출 범위를 좁히고 극단화를 심화시키며, 특히 오락성 정보와 결합될 경우 더욱 심각한 영향을 미친다.
• 개괄적 요약 기법과 콘텐츠 기원 추적 메커니즘은 인지적 과부하를 줄이고 정보 출처에 대한 신뢰를 향상시켜 에코 챔버 효과를 완화할 수 있다.
• 알고리즘 기반 사실 확인 및 편향 완화 기법은 오락성 정보를 억제하고 다양한 사용자 집단이 소비하는 콘텐츠의 동질성을 줄이는 데 기여할 수 있다.
• 공개 콘텐츠에서 도덕적 추론을 분석하고 요약하는 시스템을 운영할 때 개인정보 유출 및 감시 우려와 같은 윤리적 문제들이 발생하지만, 이러한 도구는 사용자가 에코 챔버를 초월하도록 능력화할 수 있다.
• 현재 정보 정렬 시스템은 중립성이나 품질에 대한 측정 가능한 기준이 부족하여, 공정한 정보 접근을 보장하기 위해 새로운 지표와 규제 프레임워크가 필요하다는 점을 시사한다.