[论文解读] Optimal-er Auctions through Attention

Dmitry Ivanov, Iskander Safiulin+2 more|arXiv (Cornell University)|Feb 26, 2022

Auction Theory and Applications被引用 9

一句话总结

本文提出 RegretFormer，一种基于 Transformer 的神经架构，通过利用自注意力机制实现排列不变性并提升在不同拍卖规模下的泛化能力，从而在自动化拍卖设计中提升收益。此外，本文还提出一种后悔预算损失函数，显式控制收益与激励相容性违反之间的权衡，相较于 RegretNet 在收益方面表现更优，同时简化了超参数调优并实现了明确的权衡管理。

ABSTRACT

RegretNet is a recent breakthrough in the automated design of revenue-maximizing auctions. It combines the flexibility of deep learning with the regret-based approach to relax the Incentive Compatibility (IC) constraint (that participants prefer to bid truthfully) in order to approximate optimal auctions. We propose two independent improvements of RegretNet. The first is a neural architecture denoted as RegretFormer that is based on attention layers. The second is a loss function that requires explicit specification of an acceptable IC violation denoted as regret budget. We investigate both modifications in an extensive experimental study that includes settings with constant and inconstant number of items and participants, as well as novel validation procedures tailored to regret-based approaches. We find that RegretFormer consistently outperforms RegretNet in revenue (i.e. is optimal-er) and that our loss function both simplifies hyperparameter tuning and allows to unambiguously control the revenue-regret trade-off by selecting the regret budget.

研究动机与目标

• 通过深度学习提升自动化拍卖设计中的收益表现，同时保持激励相容性。
• 解决 RegretNet 在处理可变规模拍卖时的局限性以及高超参数敏感性问题。
• 通过后悔预算开发一种显式控制收益-后悔权衡的方法。
• 使用新颖的交叉错误报告和蒸馏方法验证基于后悔的拍卖学习方法。
• 在不同投标人数和物品数的拍卖设置中实现泛化能力。

提出的方法

• 提出 RegretFormer，一种基于多头自注意力层的神经网络架构，确保对投标者和物品顺序的不变性。
• 提出一种使用拉格朗日松弛的后悔预算损失函数，显式约束激励相容性违反的最大可接受程度。
• 采用对偶梯度下降法，在固定后悔预算下优化收益目标，将权衡控制与超参数调优解耦。
• 在 RegretFormer 中应用位置编码，以在需要时对称性估值进行建模，同时不引入可学习参数。
• 通过两种新颖的程序验证性能：交叉错误报告估计和网络蒸馏，以评估后悔与收益之间的权衡。
• 通过将多个固定规模的拍卖配置组合成单一多设置数据集，对模型在混合规模设置下进行训练。

实验结果

研究问题

• RQ1 像 RegretFormer 这类基于自注意力的架构是否能在保持或改善后悔保证的同时，优于 RegretNet 的收益表现？
• RQ2 显式指定后悔预算是不是能带来比加权损失组合更稳定、更可解释的优化？
• RQ3 RegretFormer 是否能在不重新训练的情况下泛化到不同投标人数和物品数的拍卖中？
• RQ4 像交叉错误报告和蒸馏这样的新型验证程序如何提升基于后悔的拍卖学习的可靠性？
• RQ5 引入位置编码是否能提升在非对称估值设置下的性能？

主要发现

• 在所有测试设置中，包括对称和非对称情形，RegretFormer 均持续实现比 RegretNet 更高的收益，同时保持相同的 10^-3 忍受后悔预算。
• 在多设置实验中，RegretFormer 实现了 2.703 的平均收益和 0.00391 的后悔值，优于 RegretNet（2.573 收益，0.00352 忍受后悔）和 EquivariantNet（2.889 收益，0.00989 忍受后悔），尽管后者后悔值更高。
• 后悔预算损失函数显著降低了对超参数选择的敏感性，实现了更稳定、更可解释的优化。
• 加入位置编码后，RegretFormer 在非对称设置下能非常接近最优机制，而无位置编码的版本则学习到对称解，表现尚可。
• 交叉错误报告验证揭示，尽管 EquivariantNet 收益较高，但由于对最优错误报告的近似不佳，其无法有效最小化后悔，凸显了稳健验证的重要性。
• 网络蒸馏结果确认，RegretFormer 具有良好的泛化能力，并在未见的拍卖规模下保持高性能，展现出强大的归纳偏置以支持泛化。