[논문 리뷰] 'Generative CI' through Collective Response Systems

Aviv Ovadya|arXiv (Cornell University)|2023. 02. 01.

Ethics and Social Impacts of AI인용 수 6

한 줄 요약

이 논문은 '집단적 응답 시스템'을 소개한다—이것은 질문과 응답을 함께 공동으로 창출할 수 있도록 해주는 생성형 집단지능의 한 형태로서, 대규모이고 비대결적인 대화를 가능하게 한다. 이러한 시스템은 주목 경제의 인centives를 뒤집어, 통찰을 드러내고 공통 기반을 식별하며, 지시를 생성함으로써 기존의 협의 과정에 대한 확장 가능한 대안을 제공한다.

ABSTRACT

How can many people (who may disagree) come together to answer a question or make a decision? "Collective response systems" are a type of generative collective intelligence (CI) facilitation process meant to address this challenge. They enable a form of "generative voting", where both the votes, and the choices of what to vote on, are provided by the group. Such systems overcome the traditional limitations of polling, town halls, standard voting, referendums, etc. The generative CI outputs of collective response systems can also be chained together into iterative "collective dialogues", analogously to some kinds of generative AI. Technical advances across domains including recommender systems, language models, and human-computer interaction have led to the development of innovative and scalable collective response systems. For example, Polis has been used around the world to support policy-making at different levels of government, and Remesh has been used by the UN to understand the challenges and needs of ordinary people across war-torn countries. This paper aims to develop a shared language by defining the structure, processes, properties, and principles of such systems. Collective response systems allow non-confrontational exploration of divisive issues, help identify common ground, and elicit insights from those closest to the issues. As a result, they can help overcome gridlock around conflict and governance challenges, increase trust, and develop mandates. Continued progress toward their development and adoption could help revitalize democracies, reimagine corporate governance, transform conflict, and govern powerful AI systems -- both as a complement to deeper deliberative democratic processes and as an option where deeper processes are not applicable or possible.

연구 동기 및 목표

• 집단적 응답 시스템을 생성형 집단지능의 한 형태로 공유된 언어와 프레임워크로 정의하기.
• 기존의 민주적 절차의 한계—확장성, 무소음성, 극단화—을 확장 가능하고 동시에 진행되는 그룹 커뮤니케이션을 통해 해결하기.
• 집단적 응답 시스템을 더 깊이 있는 협의 과정의 보완으로 위치지음—대체가 아니라 보완으로서.
• AI와 인간-컴퓨터 상호작용의 역할을 강조하여, 확장 가능하고 포함적이며 통찰력이 풍부한 집단 의사결정을 가능하게 하기.
• 실제 거버넌스와 갈등 해결을 위한 평가 지표, 시스템 설계, 반복 대화 체인에 대한 연구 및 개발을 촉진하기.

제안 방법

• 시스템은 두 가지 입력에 기반한다: 참가자 집단과 프롬프트(예: 질문 또는 문제), 이는 생성형 대화 과정을 시작한다.
• 참가자들은 응답을 기여하고 다른 사람들의 응답을 평가함으로써 동적인 피드백 루프를 만들며, 이는 집단적 순위 매기기와 통찰의 정제를 가능하게 한다.
• 다양한 갈등을 메우는 데 기여하는 응답을 식별하기 위해 브리징 기반 순위 알고리즘(예: Polis 및 Remesh에서 사용된 방식)을 사용한다.
• 기존의 주목 경제 인센티브를 뒤집어, 갈등을 유도하는 것이 아니라 다양한 시각을 연결하는 데 보상을 주는 방식으로 운영된다.
• 동기적 및 이성적 참가를 모두 지원하며, 텍스트, 오디오, 비디오 모odal리티의 통합 가능성이 있다.
• 반복적 또는 연결된 집단 대화를 통해 질문을 정교화하고, 상충 관계를 드러내며 전문가나 이해관계자 참여를 안내할 수 있다.

실험 결과

연구 질문

• RQ1 기존의 협의 모델(예: 시민 회의나 국민투표)을 넘어서면서도 깊이와 포용성을 유지할 수 있는 집단지능의 스케일링 방법은 무엇인가?
• RQ2 어떤 설계 원칙이 문제에 가장 가까운 사람들로부터 통찰을 드러내는 데 도움이 되는가—특히 전통적인 영향력이 없는 사람들이라도 말이다?
• RQ3 생성형 집단지능은 현대 민주적·정치적 논의에서 흔히 나타나는 극단화와 정체를 어떻게 극복할 수 있는가?
• RQ4 집단적 응답 시스템이 다른 집단적 에이전트와의 상호작용에서 단일 에이전트로 기능하도록 어떻게 설계할 수 있는가—이를 통해 거버넌스의 확장 가능성을 달성하기 위해?
• RQ5 어떤 기술적 및 사회적 메커니즘이 집단적 응답 시스템이 시민의 집단 협의와 같은 더 깊이 있는 협의 과정과 효과적으로 보완이 될 수 있도록 하는가?

주요 결과

• 집단적 응답 시스템은 '생성형 투표'를 가능하게 하며, 이는 선택지와 투표 자체가 모두 집단의 공동 창출에서 유래함으로써 고정된 선택지 투표나 국민투표의 한계를 극복한다.
• Polis 및 Remesh와 같은 시스템은 대규모이고 포용적인 정책 입력을 성공적으로 실현했으며, 대만과 갈등 영향 지역에서 유엔이 이를 활용한 바 있다.
• 이러한 시스템은 이념적 갈등을 메우는 응답을 식별하고 높이 올릴 수 있으며, 주목 경제가 갈등을 확대하는 경향을 상쇄한다.
• 시민의 집단 회의만큼 자원을 소모하지 않지만, 직접적인 인간 관계 형성 없이도 신뢰를 형성하고 자신의 목소리가 듣힌다는 느낌을 줄 수 있다.
• 반복적 또는 연결된 집단 대화를 통해 질문을 정교화하고 핵심 상충 관계를 식별하며 전문가나 이해관계자 참여를 안내할 수 있어 의사결정의 질을 향상시킬 수 있다.
• 이 시스템은 만능은 아니다: 전문가의 입력, 교육 자료, 중립적인 조정과 같은 더 깊이 있는 협의 자원과 결합되지 않는 한 주로 직관적인 의견을 유도할 뿐이다.