[論文レビュー] Frontiers in Collective Intelligence: A Workshop Report

Tyler Millhouse, Melanie E. Moses+1 more|arXiv (Cornell University)|Dec 13, 2021

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

このワークショップレポートは、コンピュータサイエンス、生物学、社会科学の分野から得られる包括的知見を統合し、自律的行動をとるエージェント間の協調的相互作用から知能が生じることを提案する。適応的コミュニケーション、最適化された通信チャネル、構造化された制度が、効果的な集団的AIシステムの設計に不可欠であると強調している。

ABSTRACT

In August of 2021, the Santa Fe Institute hosted a workshop on collective intelligence as part of its Foundations of Intelligence project. This project seeks to advance the field of artificial intelligence by promoting interdisciplinary research on the nature of intelligence. The workshop brought together computer scientists, biologists, philosophers, social scientists, and others to share their insights about how intelligence can emerge from interactions among multiple agents--whether those agents be machines, animals, or human beings. In this report, we summarize each of the talks and the subsequent discussions. We also draw out a number of key themes and identify important frontiers for future research.

研究の動機と目的

• 神経細胞、社会性昆虫、AIコンponentsといった自律的行動をとるエージェント間の相互作用から知能がどのように生じるかを明らかにすること。
• 集団知能を促進または制限する根幹的メカニズム（コミュニケーション、規範、制度、調整戦略）を特定すること。
• 自然システム（例：アリの巣、脳）と人工システム（例：スウォームロボティクス、AI）の知見を統合し、スケーラブルで頑健な集団知能の設計に役立てる。
• 進化的および選択的圧力が集団的成果をもたらすために個々の行動をどのように形作るかを検討すること。
• 透明性、公平性、効果性を備えた人工知能システムの開発を支援し、人間と機械が協働する環境で効果的に機能させる。

提案手法

• コンピュータサイエンス、生物学、哲学、社会科学の専門家を招いた多分野融合型ワークショップ形式を採用し、研究の共有とコアテーマの議論を実施した。
• コピーキャットアーキテクチャ（エージェントベースの認知的類似性認識モデル）やアリの採餌行動、オンラインでの誤情報拡散ダイナミクスといった事例研究を分析した。
• 採餌者やオンラインユーザー間の情報共有におけるコストと利益のトレードオフといった、集団的システムにおけるコミュニケーションのジレンマを検討した。
• 特に逆ゲーム理論を用いたメカニズム設計の原則を検討し、望ましい集団的成果を生み出すように相互作用を構造化する方法を探った。
• 個々の行動が集団的機能を果たすために自然選択がどのように作用するかを評価し、集団の成果を目的とした選択と個体の特徴を目的とした選択を区別した。
• 得られた知見を統合し、人工的集団知能の設計原則を提示した。特に、コンponentsの最適化、コミュニケーション、制度的構造の最適化に重点を置いた。

実験結果

リサーチクエスチョン

• RQ1 分散型でエージェントベースのシステムは、中央集権的制御なしに、類似性認識といった高レベルの認知機能をどのように達成するのか？
• RQ2 局所的およびグローバルなコミュニケーションは、生物学的および人工的システムにおいて、集団的パフォーマンスを向上させるか、あるいは損なうか、果たす役割は何か？
• RQ3 制度、規範、設計されたメカニズムは、人間および人工システムにおける集団知能の効率性と公平性を、どのような形で向上させ得るか？
• RQ4 集団システムにおける個々の行動は、集団レベルの成果をもたらすために自然選択によってどの程度形作られているのか？
• RQ5 大規模な人間と機械の協働環境において、誤情報に強く、透明性と公平性を保つように集団知能をどのように設計できるか？

主な発見

• コピーキャットアーキテクチャは、中央集権的制御がなく、専門的なエージェントの確率的かつ並列的な相互作用から、類似性認識のような高レベルの認知機能が生じうることを示している。
• 集団的システムにおけるコミュニケーションは、情報の価値と処理コストのトレードオフを伴い、過剰または不適切に構造化されたコミュニケーションはシステムの効率性を低下させる。
• 昆虫の巣は、自然選択によって最適化されたコミュニケーションと分業を示しており、生物学的システムが設計された集団的システムのためのブループrintを提供している。
• 少数の極めて高い接続性を持つ個人が、オンラインで誤情報を広める上で顕著に寄与しており、こうした「繰り返し犯し」に焦点を当てることで、情報の質を顕著に改善できる可能性がある。
• メカニズム設計（特に構造化された規範やルール）は、個々の行動がグループの目的に最適化されていなくても、集団的成果を顕著に改善できる。
• 「認知的知能をすべてのレベルにまで押し下げる」概念は、集団知能の出現に、システム全体の複雑さの副産物ではなく、個々のエージェントレベルでの知能が不可欠であることを示唆している。