[論文レビュー] "Collective Intelligence as Infrastructure for Reducing Broad Global Catastrophic Risks"

Vicky Chuqiao Yang, Anders Sandberg|arXiv (Cornell University)|May 6, 2022

Evolutionary Game Theory and Cooperation被引用数 1

ひとこと要約

本論文は、集団知（CI）——分散情報の効果的処理が可能な集団の能力——を、広範なグローバル・カオスティック・リスク（GCR）を低減するための基盤的インfraストラクチャーとして扱うべきだと提唱している。CIの原則を応用することで、人間の集団における調整、意思決定、レジリエンスを向上させ、パンデミック、核戦争、対立するAIなど、多様なリスクにおいてシステム全体の安定性を高められるとする。本稿は、より強固なGCR緩和のための横断的フレームワークを提示する。

ABSTRACT

Academic and philanthropic communities have grown increasingly concerned with global catastrophic risks (GCRs), including artificial intelligence safety, pandemics, biosecurity, and nuclear war. Outcomes of many, if not all, risk situations hinge on the performance of human groups, such as whether governments or scientific communities can work effectively. We propose to think about these issues as Collective Intelligence (CI) problems—of how to process distributed information effectively. CI is a transdisciplinary research area, whose application involves human and animal groups, markets, robotic swarms, collections of neurons, and other distributed systems. In this article, we argue that improving CI in human groups can improve general resilience against a wide variety of risks. We summarize findings from the CI literature on conditions that improve human group performance, and discuss ways existing CI findings may be applied to GCR mitigation. We also suggest several directions for future research at the exciting intersection of these two emerging fields.

研究の動機と目的

• グローバル・カオスティック・リスク（GCR）緩和を、集団知（CI）の問題として再定式化し、個別の技術的解決策ではなく、集団レベルのパフォーマンスに重点を置く。
• 不確実性とストレス下での人間の集団パフォーマンスを向上させるための、CI研究から得られる主要な条件を同定・統合する。
• GCR研究と行動科学の間のギャップを埋めるために、CIの知見を高リスクのリスク緩和戦略に統合する。
• 既存のCIメカニズム——情報集約、コミットされた少数派、集団記憶——がGCRのシナリオにどのように応用可能かを検討する。
• 集団知とGCRの交差分野における新たな研究フロンティアを同定する。これには、人間とAIの協働、災害フレームワークへの制度的統合が含まれる。

提案手法

• 横断的CI文献に根拠を置き、多様な情報源、構造化されたコミュニケーション、均等な相互作用パターンを含む、高性能な集団のコア設計原則を同定する。
• 魚の群れや神経ネットワークといった生物的システムのアナロジーを用い、分散的で対立する入力を、整合的で適応的な集団意思決定に集約する仕組みをモデル化する。
• バランスポールのたてわりのたとえを用いて、集団知が複雑なシステムにおける摂動から安定性を保つインフラとして機能することを説明する。
• 公的財の悲劇や囚人のジレンマといったゲーム理論的課題をCIの視点から分析し、対立や乖離を、情報処理の向上に役立てるリソースとして再定式化する。
• CI手法を既存の災害管理フレームワーク（例：センドアイフレームワーク、EU市民保護機械）に統合することで、その適応的対応能力を高めることを提言する。
• 新たな応用事例として、早期警戒のためのコミットされた少数派の活用や、AIを用いた人間の認知的限界の補完的拡張を、高リスク意思決定において強調する。

実験結果

リサーチクエスチョン

• RQ1 集団知メカニズムは、広範なグローバル・カオスティック・リスクに対して、どのようにシステム的レジリエンスを向上させるか？
• RQ2 人間の集団において、不確実性とストレス下で集団意思決定を最も効果的に高める構造的・社会的条件は何か？
• RQ3 集団メンバー間の目標、情報、好みの違いは、どのように障害ではなく強みとして活用可能か？GCR緩和において。
• RQ4 人間とAIの共同集団知システムは、単独の構成要素よりも優れた性能を発揮するように、どのように設計可能か？
• RQ5 定着した災害管理機関は、集団知研究の原則を統合することで、どの程度まで強化可能か？

主な発見

• 集団知は、バランスポールがテントウ虫のバランスを保つのと同様に、システム全体の安定性と適応性を高める汎用的インフラストラクチャーとして機能しうる。
• 個人の目標、情報、好みの違い——通常は障害と見なされる——も、効果的な集約メカニズムを通じて、動物の群れ行動の事例が示すように、生産的なリソースに変換可能である。
• 神経ネットワークや魚の群れといった生物的システムは、分散的・分散型の情報処理が、環境変化への優れた集団的反応を生み出す可能性を示している。
• 集団知の原則を既存の災害管理フレームワーク（例：センドアイフレームワーク）に統合することで、その迅速対応力と適応的対応能力が著しく向上する可能性がある。
• コミットされた少数派は、広範な合意形成が成立する前に対象となるリスクを検知・信号発信することで、早期警戒システムとして機能し得る。これは、集団的先見性における戦略的役割を示している。
• 人間とAIの協働システムは、GCR緩和のための有望なフロンティアを提供する。AIは高次元のパターンを検出でき、人間は文脈的・倫理的推論を提供できるが、その協働は良好に設計された場合に限る。