[논문 리뷰] A new sociology of humans and machines

Milena Tsvetkova, Taha Yasseri외 2명|arXiv (Cornell University)|2024. 02. 22.

Digital Economy and Work Transformation인용 수 4

한 줄 요약

이 논문은 여러 자율적 인간과 기계가 공존하고 상호작용하는 환경에서 집단 행동을 연구하기 위해 새로운 사회학적 프레임워크인 '인간-기계 사회 시스템'을 제안한다. 트위터, 레딧, 위키백과, 고빈도 거래와 같은 플랫폼에서의 경쟁, 협력, 급성 동적 현상에 관한 다학제적 연구를 통합함으로써 플래시 크래시와 정보 오염과 같은 체계적 위험을 밝히며, 사회적 내재성과 안전을 확보하기 위해 다양하고 적응력 있으며 윤리적으로 통제되는 인간-기계 생태계를 지지한다.

ABSTRACT

From fake social media accounts and generative artificial intelligence chatbots to trading algorithms and self-driving vehicles, robots, bots and algorithms are proliferating and permeating our communication channels, social interactions, economic transactions and transportation arteries. Networks of multiple interdependent and interacting humans and intelligent machines constitute complex social systems for which the collective outcomes cannot be deduced from either human or machine behaviour alone. Under this paradigm, we review recent research and identify general dynamics and patterns in situations of competition, coordination, cooperation, contagion and collective decision-making, with context-rich examples from high-frequency trading markets, a social media platform, an open collaboration community and a discussion forum. To ensure more robust and resilient human-machine communities, we require a new sociology of humans and machines. Researchers should study these communities using complex system methods; engineers should explicitly design artificial intelligence for human-machine and machine-machine interactions; and regulators should govern the ecological diversity and social co-development of humans and machines.

연구 동기 및 목표

• 디지털 및 물리적 영역에서 상호의존적이고 조율되지 않은 인간-기계 시스템이 초래하는 증가하는 사회적 위험을 다루기.
• 기계를 수동적 도구나 단일 실체로 보는 기존 프레임워크의 한계를 극복하여, 자율적이고 상호작용하는 에이전트로 기계를 간주하기.
• 다양한 맥락에서 인간-기계 집단의 급성 행동을 이해하기 위한 체계적이고 메커니즘 중심의 접근법 개발.
• 컴퓨터 사회과학, 인공지능, 로봇공학, 경제학 분야의 다학제적 연구를 통합하여 인간-기계 상호작용에서 반복되는 역학적 패턴을 규명하기.
• 정책 및 설계에 영향을 주기 위해 다양성, 적응력, 공진화의 중요성을 강조함으로써 체계적 실패를 방지하기

제안 방법

• 최근의 공개된 워킹 페퍼를 포괄적으로 확보하기 위해 구글 색슨에서 광범위한 키워드 검색(예: 봇 + 트위터, 알고리즘 거래)을 활용한 통합적 서사적 리뷰 수행.
• 기초 및 최신 문헌을 특정하기 위해 후행 및 선행 인용 체인 기법을 활용하며, 인간과 봇을 포함한 3개 이상의 상호작용 에이전트를 다룬 연구에 집중.
• 맥락(예: 금융 시장, 소셜 미디어, 위키백과, 레딧)과 상호작용 유형(경쟁, 조율, 협력)에 따라 연구를 주제별로 분류.
• 체계적 시각을 적용하여 인간-인간, 인간-기계, 기계-기계 수준의 상호작용을 분석하며, 급성 집단적 결과에 중점을 둔다.
• 다중 에이전트 시스템에서 인간과 자율 에이전트가 공진화하고 공동으로 사회적 결과를 창출하는 경우를 분석하기 위해 하이브리드 집단지능 프레임워크를 적용.
• 로봇공학, 웹 과학, 복잡성 과학, 컴퓨터 사회과학 분야의 실험적, 이론적, 관찰적 연구의 통합된 결과를 통합.

Figure 1: In contrast to prior conceptualizations of human-machine aggregates, human-machine social systems include multiple autonomous algorithms, bots, or robots that interact on par with humans . We need to study human behavior, machine behavior, and the human-human, human-machine, and machine-ma

실험 결과

연구 질문

• RQ1 금융 시장, 소셜 미디어, 협업 플랫폼과 같은 다양한 맥락에서 인간-기계 사회 시스템에서 나타나는 일반적인 역학적 패턴은 무엇인가?
• RQ2 여러 자율적 기계와 인간 간의 상호작용이 개별 행동으로서 예측할 수 없는 급성 집단 행동을 어떻게 유도하는가?
• RQ3 최적화 목표, 속도, 정보 소스 등에서 유사한 기계 설계가 플래시 크래시나 정보 오염 확산과 같은 체계적 위험을 어떻게 악화시키는가?
• RQ4 자율 에이전트와 상호작용할 때 인간의 행동 패턴은 어떻게 변화하며, 이는 공감 능력, 사회적 학습, 문화 전파에 장기적으로 어떤 영향을 미치는가?
• RQ5 다양성, 내재성, 형평성을 확보하기 위해 인간-기계 사회 시스템에 필요한 거버넌스 및 설계 원칙은 무엇인가?

주요 결과

• 2010년 다우존스 급락과 같은 금융 시장의 플래시 크래시는 고빈도 거래 알고리즘들이 한 번의 큰 매도 주문을 공통적으로 강화함으로써 발생하며, 기계 주도의 체계적 위험을 입증한다.
• 트위터나 레딧과 같은 소셜 미디어 플랫폼에서 봇과 알고리즘은 인간의 행동을 대규모로 모방함으로써 정보 오염을 확산시키고 공공 논의를 조작할 수 있다.
• 위키백과와 같은 협업 시스템에서는 인간-기계 상호작용이 콘텐츠 품질과 효율성을 향상시킬 수 있지만, 봇이 다각적이고 커뮤니티 규범과 일치할 때에만 가능하다.
• 고속이고 동질적인 기계 간 상호작용—특히 유사한 목표에 최적화된 경우—시장 불안정성이나 자율 주행 차량 네트워크에서의 교통 정체와 같은 치명적인 결과를 초래할 수 있다.
• 기계의 목표, 속도, 정보 소스의 다양성은 체계적 위험을 감소시키고 내재성을 향상시키며, 정책이 이질적인 기계 생태계를 우선시해야 한다는 시사점을 제공한다.
• 인간-기계 공진화는 사회적 동역학을 변화시키며, 로봇이 정서적 노동을 대체함으로써 간병 역할에서 공감 능력 감소를 초래하고, AI 생성 콘텐츠 및 새로운 게임 전략을 통해 문화 전파 방식을 변화시킨다.

Figure 2: Collective outcomes in human-machine social systems differ from those in human-only systems because machines behave differently from humans, human-machine and machine-machine interactions differ from human-human interactions, but also the humans, the machines, and their interactions influe