[论文解读] Mecha-nudges for Machines

Giulio Frey, Kawin Ethayarajh|arXiv (Cornell University)|Mar 24, 2026

Ethics and Social Impacts of AI被引用 0

一句话总结

本论文将机器干预（mecha-nudges）形式化，使用贝叶斯劝说框架下的可用信息量（V-usable information）进行测量，并展示在ChatGPT发布后，Etsy商品列表中包含更多可用于AI决策者的信息以引导决策（0.143比特增量，p<0.01）。

ABSTRACT

Nudges are subtle changes to the way choices are presented to human decision-makers (e.g., opt-in vs. opt-out by default) that shift behavior without restricting options or changing incentives. As AI agents increasingly make decisions in the same environments as humans, the presentation of choices may be optimized for machines as well as people. We introduce mecha-nudges: changes to how choices are presented that systematically influence AI agents without degrading the decision environment for humans. To formalize mecha-nudges, we combine the Bayesian persuasion framework with V-usable information, a generalization of Shannon information that is observer-relative. This yields a common scale (bits of usable information) for comparing a wide range of interventions, contexts, and models. Applying our framework to product listings on Etsy -- a global marketplace for independent sellers -- we find that following ChatGPT's release, listings have significantly more machine-usable information about product selection, consistent with systematic mecha-nudging.

研究动机与目标

• 以环境变更的方式引入“机器干预”（mecha-nudges），影响AI代理而不损害人类。
• 将贝叶斯劝说与V-usable information结合，创建干预的通用比特尺度。
• 提供一个正式的优化框架，在最大化机器可用信息的同时约束对人类可用信息。
• 在Etsy商品列表上进行实证检验，以在ChatGPT发布后检测现实世界的mecha-nudging。

提出的方法

• 将mecha-nudging设计定义为将X转变为最大化I_M(τ(X)→Y_M)且I_H(τ(X)→Y_H) ≥ I_H(X→Y_H)−ε的过程。
• 采用V-usable information以在模型与设置之间实现统一的信息理论尺度。
• 使用逐点V信息（pvi）在观测数据上估计I_V(X→Y)。
• 应用三步流程：用GPT-5-mini标注机器决策、微调内容/空模型、并在后ChatGPT指标上对pvi进行回归。
• 通过OLS估计模型：pvi_i = α + β after_i + ε_i，跨时间窗口并进行鲁棒性检验。

Figure 1 : After the release of ChatGPT in Nov 2022, the change in machine-usable information in Etsy listings increases significantly, from $\sim 0$ to $0.143$ bits. The change relative to the Jul-Oct 2022 period is plotted here. The effect attenuates over the following year before climbing again i

实验结果

研究问题

• RQ1 AI采用后，真实世界在线市场中是否存在mecha-nudges？
• RQ2 后ChatGPT时代是否增加了关于商品列表决策的机器可用信息？
• RQ3 对标注模型、提示和数据分区的鲁棒性是否存在观察到的效应？
• RQ4 效应是否因产品类别而异，以及在AI辅助文案撰写控制下是否变化？

主要发现

• 后ChatGPT列表中关于机器产品选择的机器可用信息显著上升（增量约0.143比特，p<0.01）。
• pvi增量对提示、令牌选择、标注模型和微调架构具有鲁棒性。
• 在艺术品/收藏品等类别中效应不存在，在日常消费品类别中更强。
• 该增幅呈现动态模式：ChatGPT发布后跃升、随之下降、在ChatGPT Search允许实时浏览后再次上升。
• 安慰性检验（同义改写和DailyMed）未能复现该效应，支持真实的mecha-nudging信号。
• 令牌级模式显示某些词汇具有高Δpvi，提示出现的机制具有新兴且复杂性。

Figure 3 : The increase in machine-usable information post-ChatGPT is robust to possible confounders: a generic temporal change (DailyMed), AI-assisted copywriting (Rephrase), controls for product- and seller-specific attributes (green), the model family that is fine-tuned to estimate pvi (red), and