[论文解读] 'Generative CI' through Collective Response Systems

Aviv Ovadya|arXiv (Cornell University)|Feb 1, 2023

Ethics and Social Impacts of AI被引用 6

一句话总结

本文提出了「集体回应系统」——一种生成式集体智能的形式，通过允许群体共同创建问题与回应，实现大规模、非对抗性的对话。该系统通过逆转注意力经济激励机制，凸显洞察、识别共识并生成授权，为传统 deliberative（审议式）过程提供可扩展的替代方案。

ABSTRACT

How can many people (who may disagree) come together to answer a question or make a decision? "Collective response systems" are a type of generative collective intelligence (CI) facilitation process meant to address this challenge. They enable a form of "generative voting", where both the votes, and the choices of what to vote on, are provided by the group. Such systems overcome the traditional limitations of polling, town halls, standard voting, referendums, etc. The generative CI outputs of collective response systems can also be chained together into iterative "collective dialogues", analogously to some kinds of generative AI. Technical advances across domains including recommender systems, language models, and human-computer interaction have led to the development of innovative and scalable collective response systems. For example, Polis has been used around the world to support policy-making at different levels of government, and Remesh has been used by the UN to understand the challenges and needs of ordinary people across war-torn countries. This paper aims to develop a shared language by defining the structure, processes, properties, and principles of such systems. Collective response systems allow non-confrontational exploration of divisive issues, help identify common ground, and elicit insights from those closest to the issues. As a result, they can help overcome gridlock around conflict and governance challenges, increase trust, and develop mandates. Continued progress toward their development and adoption could help revitalize democracies, reimagine corporate governance, transform conflict, and govern powerful AI systems -- both as a complement to deeper deliberative democratic processes and as an option where deeper processes are not applicable or possible.

研究动机与目标

• 为集体回应系统作为生成式集体智能的一种形式，定义一种共享语言与框架。
• 通过可扩展的、同步的群体沟通，解决传统民主过程的局限性，如可扩展性不足、声音缺失与两极分化。
• 将集体回应系统定位为更深层次审议过程的补充，而非替代。
• 强调人工智能与人机交互在实现可扩展、包容且富含洞察的群体决策中的作用。
• 推动评估指标、系统设计与迭代对话链的研究与开发，以应用于现实世界的治理与冲突解决。

提出的方法

• 该系统基于两个输入运行：参与者群体与一个提示（例如问题或议题），从而启动生成式对话过程。
• 参与者贡献回应并评价他人的回应，形成动态反馈回路，实现集体对见解的排序与提炼。
• 系统使用基于桥梁构建的排序算法（如 Polis 和 Remesh 所采用的），识别能跨越分歧产生共鸣的回应，促进共识形成。
• 通过逆转传统注意力经济激励机制，奖励能够连接多元视角的回应，而非引发冲突的回应。
• 系统支持同步与异步参与，具备集成文本、音频与视频模态的潜力。
• 可使用迭代或链式集体对话，以优化问题、揭示权衡取舍，并指导专家或利益相关方的参与。

实验结果

研究问题

• RQ1 如何在超越传统审议模式（如市政会议或公投）的同时，保持深度与包容性，实现集体智能的规模化？
• RQ2 哪些设计原则能使集体回应系统从最接近问题的人群中浮现洞察，即使他们缺乏传统影响力？
• RQ3 生成式集体智能在何种方式下可克服现代民主与政治话语中常见的两极分化与僵局？
• RQ4 集体回应系统应如何构建，才能作为单一代理与其他集体代理互动，实现可扩展的治理？
• RQ5 哪些技术与社会机制可使集体回应系统成为更深层次审议过程（如公民大会）的有效补充？

主要发现

• 集体回应系统实现了「生成式投票」——即选项与选票均由集体共同生成，克服了固定选项投票与公投的局限性。
• Polis 与 Remesh 等系统已成功实现大规模、包容性的政策意见征集，包括在台湾及联合国在冲突影响地区的应用。
• 这些系统能够识别并提升跨越意识形态分歧的回应，抵消注意力经济倾向于放大冲突的倾向。
• 尽管资源投入少于公民大会，集体回应系统仍能产生信任感与被倾听的感觉，即使未建立直接的人际关系。
• 迭代或链式集体对话可用于优化问题、识别关键权衡，并引导专家或利益相关方的输入，从而提升决策质量。
• 这些系统并非万能解药：除非与更深层次的审议资源（如专家意见、教育材料与中立调解）结合，否则主要仅能激发直觉性意见。