[논문 리뷰] Digital Democracy in the Age of Artificial Intelligence

Claudio Novelli, Giulia Sandri|arXiv (Cornell University)|2024. 11. 26.

Legal and Policy IssuesSocial Sciences인용 수 3

한 줄 요약

이 논문은 인공지능(AI)이 시민성, 참여, 대변, 공적 영역의 네 가지 기둥을 통해 디지털 민주주의를 어떻게 변화시키는지 분석한다. AI가 시민 참여와 민주적 효율성을 향상시키는 이중적 역할를 다루는 同시에 가짜 정보, 개인정보 침해, 알고리즘 편향 등의 위험 요소를 강조하며, 민주적 기관 내 윤리적 AI 통합을 통해 정당성과 신뢰를 유지할 것을 주장한다.

ABSTRACT

This chapter explores the influence of Artificial Intelligence (AI) on digital democracy, focusing on four main areas: citizenship, participation, representation, and the public sphere. It traces the evolution from electronic to virtual and network democracy, underscoring how each stage has broadened democratic engagement through technology. Focusing on digital citizenship, the chapter examines how AI can improve online engagement and promote ethical behaviour while posing privacy risks and fostering identity stereotyping. Regarding political participation, it highlights AI's dual role in mobilising civic actions and spreading misinformation. Regarding representation, AI's involvement in electoral processes can enhance voter registration, e-voting, and the efficiency of result tabulation but raises concerns regarding privacy and public trust. Also, AI's predictive capabilities shift the dynamics of political competition, posing ethical questions about manipulation and the legitimacy of democracy. Finally, the chapter examines how integrating AI and digital technologies can facilitate democratic political advocacy and personalised communication. However, this also comes with higher risks of misinformation and targeted propaganda.

연구 동기 및 목표

• AI가 핵심 민주적 차원에서 디지털 민주주의에 미치는 변혁적 영향을 조사하는 것.
• 시민 참여를 촉진하면서도 윤리적 및 구조적 위험을 야기하는 AI의 이중적 성격을 식별하는 것.
• AI가 디지털 시민성, 정치적 참여, 선거 과정, 공적 논의에 어떻게 영향을 미치는지 분석하는 것.
• AI 기반 개인화 및 예측 분석이 민주적 정당성과 신뢰에 어떤 영향을 미치는지 평가하는 것.
• 민주적 가치를 보호하기 위해 민주적 기관 내 윤리적 AI 통합을 위한 프레임워크를 제공하는 것.

제안 방법

• AI의 민주적 혁신에서의 역할를 이해하기 위해 전자 민주주의에서 네트워크 민주주의로의 진화를 추적하는 것.
• 신원 확인, 행동 모니터링, 윤리적 참여 도구 등을 포함한 디지털 시민성에서의 AI 응용을 분석하는 것.
• 소셜 미디어 및 커뮤니케이션 플랫폼을 통한 AI의 시민 참여 유도 역할 평가하는 것.
• e-투표, 투표자 등록, 결과 집계의 효율성과 보안성을 고려해 선거 시스템 내 AI의 역할 평가하는 것.
• 정치 캠페인에서의 AI 기반 예측 모델링과 그에 따른 조작 및 공정성 문제에 대한 영향을 분석하는 것.
• 개인화된 커뮤니케이션과 타겟팅된 옹호 활동을 포함한 공적 영역 역학에 AI 통합을 연구하는 것.

실험 결과

연구 질문

• RQ1 AI는 정체성, 참여, 윤리적 행동 측면에서 디지털 시민성을 어떻게 재구성하는가?
• RQ2 AI는 정치적 참여와 시민 운동을 어떻게 향상시키거나 약화시키는가?
• RQ3 e-투표와 투표자 등록과 같은 선거 과정에서 AI의 위험 요소와 이점은 무엇인가?
• RQ4 AI의 예측 능력은 정치 경쟁과 민주적 정당성에 어떤 영향을 미치는가?
• RQ5 공적 논의 내 AI 통합이 가짜 정보와 타겟팅된 선전을 얼마나 심화시키는가?

주요 결과

• AI는 더 반응적이고 개인화된 시민 참여 플랫폼을 가능하게 하여 디지털 시민성을 향상시킨다.
• 데이터 기반 프로파일링과 감시로 인해 정체성 고정관념화와 개인정보 침해 위험이 증가한다.
• AI는 시민 행동을 효과적으로 유도할 수 있지만, 알고리즘적 확산로 인해 가짜 정보의 확산을 악화시킬 수 있다.
• AI는 e-투표 시스템 내 투표자 등록과 결과 집계의 효율성을 향상시키지만, 공공의 신뢰 확보는 여전히 큰 도전 과제이다.
• 정치 캠페인에서의 예측 분석은 조작과 공정한 선거 경쟁의 약화에 대한 윤리적 우려를 야기한다.
• AI를 통한 개인화된 커뮤니케이션은 옹호 활동을 강화하지만, 타겟팅된 선전과 에코 캐빈의 가능성을 증가시킨다.