[論文レビュー] 'Generative CI' through Collective Response Systems

Aviv Ovadya|arXiv (Cornell University)|Feb 1, 2023

Ethics and Social Impacts of AI被引用数 6

ひとこと要約

本稿では、集団的知性の生成的形態である「コラボラティブ・リスポンス・システム」を紹介する。このシステムは、参加者が質問と回答を共同で創り出すことで、大規模かつ非対立的な対話を可能にする。従来の注目経済のインcentiveを逆転させることで、洞察の可視化、共通理解の特定、意思決定の根拠の生成を実現し、伝統的な議論プロセスの代替手段としてスケーラブルな選択肢を提供する。

ABSTRACT

How can many people (who may disagree) come together to answer a question or make a decision? "Collective response systems" are a type of generative collective intelligence (CI) facilitation process meant to address this challenge. They enable a form of "generative voting", where both the votes, and the choices of what to vote on, are provided by the group. Such systems overcome the traditional limitations of polling, town halls, standard voting, referendums, etc. The generative CI outputs of collective response systems can also be chained together into iterative "collective dialogues", analogously to some kinds of generative AI. Technical advances across domains including recommender systems, language models, and human-computer interaction have led to the development of innovative and scalable collective response systems. For example, Polis has been used around the world to support policy-making at different levels of government, and Remesh has been used by the UN to understand the challenges and needs of ordinary people across war-torn countries. This paper aims to develop a shared language by defining the structure, processes, properties, and principles of such systems. Collective response systems allow non-confrontational exploration of divisive issues, help identify common ground, and elicit insights from those closest to the issues. As a result, they can help overcome gridlock around conflict and governance challenges, increase trust, and develop mandates. Continued progress toward their development and adoption could help revitalize democracies, reimagine corporate governance, transform conflict, and govern powerful AI systems -- both as a complement to deeper deliberative democratic processes and as an option where deeper processes are not applicable or possible.

研究の動機と目的

• コラボラティブ・リスポンス・システムを生成的集団的知性の形態として、共通の言語とフレームワークで定義すること。
• 伝統的な民主的プロセスの限界（スケーラビリティ、発言権の欠如、極化）を、スケーラブルで同時並行的なグループ通信によって克服すること。
• コラボラティブ・リスポンス・システムを、より深い議論プロセスの補完として位置づけること、代替手段とはしないこと。
• AIおよび人間-コンピュータインタラクションの役割が、スケーラブルで包括的かつ洞察に富んだ集団的意思決定を可能にすることを強調すること。
• 実世界の政策意思決定や紛争解決における評価指標、システム設計、反復的対話チェーンの研究開発を促進すること。

提案手法

• システムは2つの入力に依存する：参加者グループとプロンプト（例：質問や問題提起）。これにより、生成的対話プロセスが開始される。
• 参加者は回答を提供し、他の人の回答を評価することで、集団による順位付けと洞察の精錛を可能にする動的フィードバックループを形成する。
• ポリスやリムシュのような手法に見られるように、ブリッジングに基づく順位付けアルゴリズムを用いて、対立を越えて共感を呼ぶ回答を特定する。
• 従来の注目経済のインcentiveを逆転させ、対立を引き起こすのではなく、多様な視点をつなぐ回答を報酬化することで、対立の拡大を抑制する。
• 同期的および非同期的参加をサポートし、テキスト、音声、動画のマルチモーダル統合の可能性も有する。
• 反復的またはチェーン化された集団的対話により、質問の洗練、妥当性の特定、専門家や関係者への対話誘導が可能になる。

実験結果

リサーチクエスチョン

• RQ1 伝統的なディスカッションモデル（町会議や公民投票など）を超えて、深さと包括性を保ちながら集団的知性をスケーリングする方法は何か？
• RQ2 問題に最も近い人々が伝統的な影響力を持たなくても、そのような人々の洞察を浮き彫りにするための設計原則は何か？
• RQ3 生成的集団的知性は、現代の民主的・政治的議論に見られる極化や停滞をどのように克服できるか？
• RQ4 コラボラティブ・リスポンス・システムを、他の集団的エージェントとの相互作用において単一のエージェントとして機能させるには、どのような構造が必要か？
• RQ5 より深い議論プロセス（市民アセンブリなど）の有効な補完となるために、どのような技術的および社会的メカニズムが必要か？

主な発見

• コラボラティブ・リスポンス・システムは「生成的投票」を可能にする。選択肢と投票自体が集団から生じるため、固定選択式のアンケートや公民投票の限界を克服できる。
• ポリスやリムシュのようなシステムは、台湾や紛争地域における国連の活動など、大規模かつ包括的な政策提言を実際に実現している。
• これらのシステムは、イデオロギー的対立を越えて共感を呼ぶ回答を特定・強調でき、注目経済が対立を拡大させる傾向を是正する。
• 市民アセンブリーよりもリソースを要しないものの、直接の人間関係の構築がなくても、信頼や「声が届いた」という感覚を生み出すことができる。
• 反復的またはチェーン化された集団的対話により、質問の洗練、主要な妥当性の特定、専門家や関係者への対話誘導が可能になり、意思決定の質が向上する。
• これらのシステムは万能薬ではない。専門家の意見、教育的資料、中立的なモデレーションなどのより深い議論的リソースと組み合わせない限り、主に直感的意見の抽出にとどまる。