[论文解读] Learning to Manipulate under Limited Information

Wesley H. Holliday, Alexander Kristoffersen+1 more|arXiv (Cornell University)|Jan 29, 2024

Machine Learning and Algorithms被引用 4

一句话总结

本文通过训练神经网络来操纵8种投票方法，研究在信息有限条件下委员会选举中策略性投票的可学习性。研究发现，即使信息极少，Borda等方法也极易被操纵，而IRV和Minimax则表现出强抗性，表明计算可学习性可揭示超出最坏情况复杂度的实际可操纵性。

ABSTRACT

By classic results in social choice theory, any reasonable preferential voting method sometimes gives individuals an incentive to report an insincere preference. The extent to which different voting methods are more or less resistant to such strategic manipulation has become a key consideration for comparing voting methods. Here we measure resistance to manipulation by whether neural networks of various sizes can learn to profitably manipulate a given voting method in expectation, given different types of limited information about how other voters will vote. We trained over 100,000 neural networks of 26 sizes to manipulate against 8 different voting methods, under 6 types of limited information, in committee-sized elections with 5-21 voters and 3-6 candidates. We find that some voting methods, such as Borda, are highly manipulable by networks with limited information, while others, such as Instant Runoff, are not, despite being quite profitably manipulated by an ideal manipulator with full information. For the three probability models for elections that we use, the overall least manipulable of the 8 methods we study are Condorcet methods, namely Minimax and Split Cycle.

研究动机与目标

• 评估机器学习模型在仅获得其他选民偏好部分信息的情况下，是否能够学会盈利性地操纵投票系统。
• 在不同信息类型和选举规模下，比较各类投票方法在操纵可学习性方面的相对差异。
• 评估最坏情况下的计算复杂度是否与实际中学习操纵的难易程度相关。
• 探讨候选人数、选民人数和信息类型等因素如何影响所学操纵策略的成功率。
• 提出一种基于深度学习的新经验框架，用于衡量对操纵的抵抗能力，以补充经典理论结果。

提出的方法

• 训练了近40,000个具有26种不同架构的多层感知机（MLPs），使其代表单一操纵者学习策略性投票。
• 使用6种有限信息作为输入，包括多数票数、多数矩阵和真实胜者，以模拟现实世界中的不确定性。
• 在5–21名选民和3–6名候选人的条件下，评估8种投票方法——Borda、Plurality、Instant Runoff（IRV）、IRV-PUT、Stable Voting、Minimax、Split Cycle、Nanson——的表现。
• 将盈利性定义为MLP结果效用与拥有完整信息的理想操纵者效用的比值。
• 使用统计分析比较不同投票方法、网络规模和信息类型下的学习成功率。
• 在多种配置下进行实验，并以误差线表示标准误报告结果。

实验结果

研究问题

• RQ1 神经网络能否仅基于对其他选民偏好的部分信息，学会盈利性地操纵某种投票方法？
• RQ2 在相同信息条件下，不同投票方法的所学操纵盈利性如何变化？
• RQ3 神经网络的规模在多大程度上与学习有效操纵策略的能力相关？
• RQ4 候选人数和选民人数等因素如何影响操纵的可学习性？
• RQ5 操纵的最坏情况计算复杂度是否对应于实际中较低的可学习性？

主要发现

• 即使仅提供有限信息（如仅多数矩阵），小型神经网络也能高度有效操纵Borda投票，表明其存在显著的实际脆弱性。
• IRV和IRV-PUT尽管在理想操纵者拥有完整信息时更易被操纵，但对基于学习的操纵表现出高度抗性。
• 当仅知道真实胜者或多数票数时，Minimax和Split Cycle对操纵具有高度抗性；但当提供多数矩阵时，MLP更接近理想表现。
• 操纵盈利性随候选人数增加至4–5人而上升，但当候选人数超过5人后，MLP表现与理想操纵者效用的比值下降，表明复杂性显著增加。
• 较小的神经网络比其他方法更能有效学习操纵Borda，表明高度可操纵系统中操纵学习的样本复杂度较低。
• 尽管Nanson的计算是NP难的，但其在提供多数矩阵输入时，最多可支持6名候选人，仍具有可学习性，表明最坏情况复杂度与实际可学习性之间存在脱节。