[論文レビュー] Evolution of fairness in hybrid populations with specialised AI agents

Zhao Song, Theodor Cimpeanu+2 more|arXiv (Cornell University)|Feb 15, 2026

Ethics and Social Impacts of AI被引用数 0

ひとこと要約

この論文は、役割に特化したAIエージェントが二部 Ultimatum Gameモデルの公平性に与える影響を分析し、AI受取者が公平性を堅牢に促進する一方、Discriminatory AI proposerはSamaritan AIsよりも優れた性能を発揮する状況が特に強い淘汰圧下で示される。

ABSTRACT

Fairness in hybrid societies hinges on a simple choice: should AI be a generous host or a strict gatekeeper? Moving beyond symmetric models, we show that asymmetric social structures--like those in hiring, regulation, and negotiation--AI that guards fairness outperforms AI that gifts it. We bridge this gap with a bipartite hybrid population model of the Ultimatum Game, separating humans and AI into distinct proposer and receiver groups. We first introduce Samaritan AI agents, which act as either unconditional fair proposers or strict receivers. Our results reveal a striking asymmetry: Samaritan AI receivers drive population-wide fairness far more effectively than Samaritan AI proposers. To overcome the limitations of the Samaritan AI proposer, we design the Discriminatory AI proposer, which predicts co-players' expectations and only offers fair portions to those with high acceptance thresholds. Our results demonstrate that this Discriminatory AI outperforms both types of Samaritan AI, especially in strong selection scenarios. It not only sustains fairness across both populations but also significantly lowers the critical mass of agents required to reach an equitable steady state. By transitioning from unconditional modelling to strategic enforcement, our work provides a pivotal framework for deploying asymmetric AIs in the increasingly hybrid society.

研究の動機と目的

• AI統合が非対称的な社会的役割における人間の公平性規範へ与える理解を促進する。
• 提案者と受取者を人間とAIグループに分けたUltimatum Gameの二部ハイブリッド集団モデルを構築する。
• 無条件の公平性を示すSamaritan AI（Samaritan AI）と戦略条件付き提案を行うDiscriminatory AI提案者が集団全体の公平性へ与える影響を評価する。
• 選択強度とAI構成が長期的な公平性の結果をどのように変えるかを定量化し、費用対効果の高い介入戦略を特定する。

提案手法

• 提案者グループと受取者グループを含む有限の均質混合二部集団として相互作用をモデル化する。
• p∈{l, h}のオファーとq∈{l, h}の受取者閾値を用いる離散的Ultimatum Gameを、h=0.5、l=0.1（特記ない限り）とする。
• Samaritan AIを unconditional H P または H R戦略として実装する。
• 人間の戦略更新をFermi関数f=(1+e^{-β(π_B-π_A)})^{-1}と変異を用いたMoran過程で適用し、探索を許す。
• 固定化確率ρ_{B,Aを計算し、四つの均質状態（HH, HL, LH, LL）についてのMarkov遷移行列Λを導出する。
• Discriminatory AI proposerを拡張し、高閾値受取者に対してのみhを提供し、αの確率でH-提案者と見なされる。

Figure 1 : Schematic of the Ultimatum Game in hybrid human-AI populations. The model consists of two populations: the proposer population, where players choose between a high ( $h$ ) and a low ( $l$ ) offer, the and receiver population, where players have either a high ( $h$ ) or low ( $l$ ) accepta

実験結果

リサーチクエスチョン

• RQ1 公平性を強制するAI（受取者）は、公平性をモデル化するAI（提案者）よりも集団全体の公平性を促進するのか？
• RQ2 Discriminatory AI proposerはSamaritan AIsを上回ることができるのか、特に強い選択圧下で？
• RQ3 AI構成と選択強度はHH、HL/LH、LL状態の長期的な分布にどう影響するのか？
• RQ4 AI提案者とAI受取者の組み合わせは、費用を抑えつつ公平性を達成するうえでどの程度利益をもたらすのか？

主な発見

• AI受取者は、選択強度を問わず、AI提案者よりも集団全体の公平性をより効果的に促進する。
• 弱い選択では、単一のAI受取者が人間集団の両方で完全な公平性を誘導できる一方、AI提案者はそうでない可能性がある；強い選択では、多くのAI提案者が公平性を促進できない。
• Discriminatory AI proposerは強い選択下でSamaritan AIsを上回り、HH状態の優位性をはるかに少ないAIエージェント（例：β=100でM_P≥8）で達成する。
• 両タイプのAIが共存すると線形のトレードオフが生じ、M_P + M_R ≈ 58で高選択下に完全な公平性を達成することが示され、相乗効果を示す。
• Discriminatory AI proposerは広いパラメータ範囲で相互の公平性を維持し、Samaritan AIsより payoff 変動に対して頑健だが、最大のHH出現率はやや低い。
• パラメータスウープ全体で、Samaritan AI付きのHH状態が約88%のシナリオで支配的であり、LLは約10%支配的；HL/LHは安定結果として稀である。

Figure 2 : AI receivers outperform AI proposers in enhancing fairness in both populations. Panels in the top row show the fraction of $H$ -proposers and $H$ -receivers among human players as a function of the number of AI proposers with different selection intensities, respectively. Panels in the bo