[논문 리뷰] Human-AI Coevolution

Dino Pedreschi, Luca Pappalardo외 15명|arXiv (Cornell University)|2023. 06. 23.

Complex Network Analysis Techniques인용 수 9

한 줄 요약

이 관점 논문은 Social AI를 주장하며, Complex Systems, Network Science, and AI의 교차점에 위치한 다학제적 프레임워크를 개요화하고, 인간과 AI가 사회기술 시스템에서 어떻게 상호진화하는지 연구하고, 열린 질문, 방법론, 활용 사례를 간략히 제시한다.

ABSTRACT

Human-AI coevolution, defined as a process in which humans and AI algorithms continuously influence each other, increasingly characterises our society, but is understudied in artificial intelligence and complexity science literature. Recommender systems and assistants play a prominent role in human-AI coevolution, as they permeate many facets of daily life and influence human choices on online platforms. The interaction between users and AI results in a potentially endless feedback loop, wherein users' choices generate data to train AI models, which, in turn, shape subsequent user preferences. This human-AI feedback loop has peculiar characteristics compared to traditional human-machine interaction and gives rise to complex and often ``unintended'' social outcomes. This paper introduces Coevolution AI as the cornerstone for a new field of study at the intersection between AI and complexity science focused on the theoretical, empirical, and mathematical investigation of the human-AI feedback loop. In doing so, we: (i) outline the pros and cons of existing methodologies and highlight shortcomings and potential ways for capturing feedback loop mechanisms; (ii) propose a reflection at the intersection between complexity science, AI and society; (iii) provide real-world examples for different human-AI ecosystems; and (iv) illustrate challenges to the creation of such a field of study, conceptualising them at increasing levels of abstraction, i.e., technical, epistemological, legal and socio-political.

연구 동기 및 목표

• AI 피드백 루프가 집합적 사회기술 역학을 형성하는 방식을 교차학문적 연구로 동기를 부여한다.
• Social AI를 네트워크 과학, 복잡성 과학, 그리고 AI의 통합으로 정의하고, 대규모 인간-AI 상호작용을 연구한다.
• STS에서의 AI 주도 복종(conformism), 다양성, 거버넌스로부터 발생하는 개방적인 기술적·과학적 도전을 식별한다.
• 실제 사용자와 시스템에 대한 AI 영향의 인과관계를 평가하기 위한 방법론적 방향(개입적, 관찰적, 시뮬레이션)을 제시한다.
• 구체적 활용 사례(예: 네비게이션 시스템)로 프레임워크를 설명하고 규제 및 윤리적 고려사항을 논의한다.

제안 방법

• 피드백 루프를 통해 AIs를 STS의 능동적 형성자로 간주하는 복잡성 정보에 기반한 관점을 제안한다.
• AI 주도 권고가 시스템 수준의 결과에 영향을 미치는 사례 연구와 현상을 검토한다(예: 교통, 양극화, 불평등).
• 모형 주도 시뮬레이션, 관찰 연구, 개입(AB) 시험, 혼합 접근법 등 방법론적 패러다임을 개략한다.
• 데이터 주도 시뮬레이션 및 디지털 트윈을 논의하여 STS에 대한 AI 영향을 보정하고 테스트한다.
• AI의 인과 효과를 평가하기 위한 통제된 실험과 규제 기반 협력의 필요성을 주장한다.
• 다음 세대의 다양하고 윤리적으로 정렬된 AI 시스템에 대한 구조적 설계 및 거버넌스 시사점을 탐구한다.

실험 결과

연구 질문

• RQ1 AI 주도 피드백 루프가 사전 AI 기준선과 비교하여 사회기술 시스템의 구조와 역학을 어떻게 바꾸는가?
• RQ2 AI가 순응(conformism)이나 불평등보다 집합적 이익을 촉진할 수 있는 조건은 무엇인가?
• RQ3 실제 사용자와 네트워크에 대한 AI의 인과 효과를 가장 잘 입증하는 방법론적 접근 방식은 무엇인가(개입적 대 관찰적)?
• RQ4 AI 매개 생태계에서 다양성, 투명성, 사회적 지속 가능성을 지원하는 아키텍처와 거버넌스 메커니즘은 무엇인가?

주요 결과

• AI 기반 피드백은 공동 현상을 증폭시킬 수 있으며(예: 교통혼잡, 양극화), 관리되지 않으면 다양성을 침식할 수 있다.
• 네비게이션 및 추천 시스템은 다양성과 규범을 고려하여 설계되면 개인적 결과는 불리할 수 있지만 집합적 지표가 개선될 수 있다.
• 개입적 연구(A/B 테스트)는 AI 영향의 인과적 증거를 제공하지만 자원이 많이 들고 윤리적으로 복잡하다.
• 관찰 데이터와 시뮬레이션을 결합한 하이브리드 방법은 전체 실험이 비현실적일 때 격차를 해소하는 데 도움이 된다.
• 규제 프레임워크(예: EU DSA/DMA)는 AI 플랫폼의 연구 협력 및 거버넌스에 기회를 만든다.