[論文レビュー] Human-AI Coevolution

Dino Pedreschi, Luca Pappalardo+15 more|arXiv (Cornell University)|Jun 23, 2023

Complex Network Analysis Techniques被引用数 9

ひとこと要約

This perspective paper advocates Social AI, outlining a multidisciplinary framework at the intersection of Complex Systems, Network Science, and AI to study how humans and AIs coevolve in socio-technical systems, and it sketches open questions, methodologies, and use cases.

ABSTRACT

Human-AI coevolution, defined as a process in which humans and AI algorithms continuously influence each other, increasingly characterises our society, but is understudied in artificial intelligence and complexity science literature. Recommender systems and assistants play a prominent role in human-AI coevolution, as they permeate many facets of daily life and influence human choices on online platforms. The interaction between users and AI results in a potentially endless feedback loop, wherein users' choices generate data to train AI models, which, in turn, shape subsequent user preferences. This human-AI feedback loop has peculiar characteristics compared to traditional human-machine interaction and gives rise to complex and often ``unintended'' social outcomes. This paper introduces Coevolution AI as the cornerstone for a new field of study at the intersection between AI and complexity science focused on the theoretical, empirical, and mathematical investigation of the human-AI feedback loop. In doing so, we: (i) outline the pros and cons of existing methodologies and highlight shortcomings and potential ways for capturing feedback loop mechanisms; (ii) propose a reflection at the intersection between complexity science, AI and society; (iii) provide real-world examples for different human-AI ecosystems; and (iv) illustrate challenges to the creation of such a field of study, conceptualising them at increasing levels of abstraction, i.e., technical, epistemological, legal and socio-political.

研究の動機と目的

• AIフィードバックループが集合的な社会技術ダイナミクスをどのように形成するかを学際的に動機づける。
• Social AIを、ネットワーク科学、複雑性科学、AIの統合として定義し、規模での人間－AIの相互作用を研究する。
• AI主導の適応性、多様性、ガバナンスがSTSにもたらす技術的・科学的課題を特定する。
• 実ユーザーとシステムへの影響を因果的に評価する方法論的方向性を提案する（介入的・観察的・シミュレーション）
• 具体的なユースケース（例：ナビゲーションシステム）で枠組みを示し、規制と倫理的考慮を論じる。

提案手法

• AIをSTSの能動的な成形者としてフィードバックループを介して扱う、複雑性情報を含む視点を提案する。
• AI主導の推奨がシステム全体の成果に影響を与えるケーススタディや現象をレビューする（例：交通、分極化、不平等）。
• モデル駆動のシミュレーション、観察研究、介入（A/B）試験、ハイブリッドアプローチなどの方法論的パラダイムを概説する。
• データ駆動のシミュレーションとデジタルツインを用いてAIがSTSへ与える影響を較正・検証する。
• AIの因果効果を評価するための統制実験と規制による協働の正当化を唱える。
• 次世代で多様性と倫理的一致を備えたAIシステムのためのアーキテクチャとガバナンスの含意を探る。

実験結果

リサーチクエスチョン

• RQ1 AI主導のフィードバックループは、AI非介入時の基準と比較して社会技術システムの構造とダイナミクスをどのように変えるか。
• RQ2 AIは集団的利益（渋滞の緩和、分極化の低減）を促進する条件と、適合化や不平等を生む条件は何か。
• RQ3 実ユーザーとネットワークに対するAIの因果効果を最も適切に確立する方法論的アプローチは何か（介入的と観察的のどちらが適切か）。
• RQ4 AI仲介エコシステムにおいて、多様性、透明性、社会的持続性を支えるアーキテクチャとガバナンス機構は何か。

主な発見

• AIを用いたフィードバックは集合的現象を増幅する可能性があり（例：交通渋滞、分極化）、適切に管理されないと多様性を侵食する。
• ナビゲーションやレコメンダーシステムは、多様性と規範を意識して設計すれば、個別の最適化結果は低下しても集合指標が改善することがある。
• 介入的研究（A/B試験）はAIの影響を因果的に示すが、資源集約的で倫理的に複雑である。
• 観察データとシミュレーションを組み合わせたハイブリッド手法は、完全な実験が実現困難な場合のギャップを埋めるのに有効。
• 規制フレームワーク（例：EU DSA/DMA）は、AIプラットフォームの協働的研究とガバナンスの機会を創出する。