[논문 리뷰] Frontiers in Collective Intelligence: A Workshop Report

Tyler Millhouse, Melanie E. Moses외 1명|arXiv (Cornell University)|2021. 12. 13.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 워크숍 보고서는 컴퓨터 과학, 생물학, 사회과학 분야의 통합적 통찰을 종합하여, 의지가 있는 에이전트 간의 조율된 상호작용에서 지능이 유래된다는 것을 제안한다. 적응형 의사소통, 최적화된 의사소통 채널, 체계적인 제도 등이 효과적인 집단형 AI 시스템 설계의 핵심 요소로 강조된다.

ABSTRACT

In August of 2021, the Santa Fe Institute hosted a workshop on collective intelligence as part of its Foundations of Intelligence project. This project seeks to advance the field of artificial intelligence by promoting interdisciplinary research on the nature of intelligence. The workshop brought together computer scientists, biologists, philosophers, social scientists, and others to share their insights about how intelligence can emerge from interactions among multiple agents--whether those agents be machines, animals, or human beings. In this report, we summarize each of the talks and the subsequent discussions. We also draw out a number of key themes and identify important frontiers for future research.

연구 동기 및 목표

• 신경세포, 사회적 곤충, 또는 AI 구성요소와 같은 의지가 있는 에이전트 간의 상호작용에서 지능이 어떻게 유도되는지 탐구하기.
• 집단지능을 가능하게 하거나 제약하는 핵심 메커니즘—의사소통, 규범, 제도, 조율 전략—을 특정하기.
• 예를 들어, 개미 무리나 뇌와 같은 천연 시스템의 통찰을, 스웜 로봇이나 AI와 같은 인공 시스템과 연결하여 확장 가능하고 견고한 집단지능 설계에 기여하기.
• 진화적 압력과 선택 압력이 집단적 결과를 위한 개인의 행동을 어떻게 형성하는지 분석하기.
• 투명하고 공정하며 효과적인 인간-기계 협업 환경에서 기능하는 인공지능 시스템 개발을 안내하기.

제안 방법

• 컴퓨터 과학, 생물학, 철학, 사회과학 분야의 전문가들이 참여한 다학제적 워크숍 형식을 활용하여 연구를 공유하고 핵심 주제를 논의함.
• Copycat 아키텍처(에이전트 기반 인식을 통한 유사성 추론의 인지 모델), 개미의 사냥 행동, 온라인 가짜정보 확산 동역학 등의 사례 연구 분석.
• 사냥꾼과 온라인 사용자 간의 정보 공유에서의 비용-편익 균형과 같은 집단 시스템 내 의사소통의 상충 관계 분석.
• 특히 역게임 이론을 활용한 메커니즘 설계 원칙을 통해 원하는 집단적 결과를 도출할 수 있도록 상호작용을 체계화하는 방법 탐색.
• 선택 압력이 개인의 행동을 집단적 기능을 위한 방향으로 어떻게 형성하는지 평가하며, 집단 결과를 위한 선택과 개인적 특성에 대한 선택을 구분함.
• 인공 집단지능을 위한 설계 원칙으로 통찰을 통합하여, 구성요소, 의사소통, 제도적 구조의 최적화에 중점을 둠.

실험 결과

연구 질문

• RQ1 중앙 집중식 제어 없이도 분산형, 에이전트 기반 시스템이 어떻게 유사성 추론과 같은 고수준 인지 기능을 달성할 수 있는가?
• RQ2 지능적인 시스템과 인공 시스템에서 집단 성능을 향상시키거나 약화시키는 데 있어 국지적·전역적 의사소통이 어떤 역할을 하는가?
• RQ3 제도, 규범, 설계된 메커니즘은 인간과 인공 시스템의 집단지능 효율성과 공정성을 어떻게 향상시킬 수 있는가?
• RQ4 집단 시스템 내 개인의 행동이 집단 수준의 결과를 위한 자연선택에 의해 어느 정도 형성되는가?
• RQ5 대규모 인간-기계 협업 환경에서 가짜정보에 저항하고 투명성과 공정성을 증진시키기 위해 집단지능을 어떻게 설계할 수 있는가?

주요 결과

• Copycat 아키텍처는 중앙 집중식 제어 없이도 전문화된 에이전트 간의 확률적이고 병렬적인 상호작용을 통해 고수준 인지 기능, 예를 들어 유사성 추론이 어떻게 유도될 수 있는지를 보여준다.
• 집단 시스템 내 의사소통은 정보의 가치와 처리 비용 사이의 상충 관계를 포함하며, 과도하거나 잘 구조화되지 않은 의사소통은 시스템 효율성을 떨어뜨린다.
• 곤충 무리들은 자연선택에 의해 최적화된 의사소통과 노동 분담을 보이며, 이는 생물학적 시스템이 공학적 집단 시스템의 블루프린트가 될 수 있음을 시사한다.
• 소수의 매우 연결성이 높은 개인이 온라인에서 가짜정보를 지속적으로 확산시키며, 이들 '연쇄 위반자'를 대상으로 조치를 취할 경우 정보 품질을 크게 향상시킬 수 있다.
• 메커니즘 설계—특히 체계화된 규범과 규칙—는 개인의 행동이 그룹 목표를 위해 최적화되어 있지 않은 시스템에서도 집단적 결과를 크게 향상시킬 수 있다.
• '모든 수준에서 지능'의 개념은 집단지능의 유도에 있어 개별 에이전트 수준의 지능이 시스템 수준의 복잡성의 부산물이 아니라 필수 조건임을 시사한다.