[論文レビュー] Learning to Manipulate under Limited Information

Wesley H. Holliday, Alexander Kristoffersen+1 more|arXiv (Cornell University)|Jan 29, 2024

Machine Learning and Algorithms被引用数 4

ひとこと要約

この論文は、8つの投票手法に対してニューラルネットワークを訓練して戦略的投票を操作することにより、限られた情報下での委員会選挙における戦略的投票の学習可能性を調査している。Bordaのような手法は、最小限の情報でも極めて操作可能であるのに対し、IRV や Minimax は強い抵抗性を示す。これは、計算的学習可能性が最悪ケースの複雑さを超えた実用的可操作性を明らかにする可能性を示唆している。

ABSTRACT

By classic results in social choice theory, any reasonable preferential voting method sometimes gives individuals an incentive to report an insincere preference. The extent to which different voting methods are more or less resistant to such strategic manipulation has become a key consideration for comparing voting methods. Here we measure resistance to manipulation by whether neural networks of various sizes can learn to profitably manipulate a given voting method in expectation, given different types of limited information about how other voters will vote. We trained over 100,000 neural networks of 26 sizes to manipulate against 8 different voting methods, under 6 types of limited information, in committee-sized elections with 5-21 voters and 3-6 candidates. We find that some voting methods, such as Borda, are highly manipulable by networks with limited information, while others, such as Instant Runoff, are not, despite being quite profitably manipulated by an ideal manipulator with full information. For the three probability models for elections that we use, the overall least manipulable of the 8 methods we study are Condorcet methods, namely Minimax and Split Cycle.

研究の動機と目的

• 他の投票者の好みに関する部分的な情報しか与えられていない状況で、機械学習モデルが利益を上げられるように戦略的投票を学習できるかどうかを評価すること。
• 異なる情報タイプと選挙規模の下で、さまざまな投票手法における操作の相対的な学習可能性を比較すること。
• 最悪ケースの計算複雑性が、実際の操作の学習のしやすさと相関しているかどうかを評価すること。
• 候補者数、投票者数、情報タイプなどの要因が、学習された操作の成功に与える影響を検討すること。
• 古典的な理論的結果を補完する形で、深層学習を用いた操作に対する耐性を測定する新しい実証的フレームワークを提供すること。

提案手法

• 26種類の異なるアーキテクチャを有する、ほぼ40,000体の多層パーセプトロン（MLP）を、1人の操作者としての戦略的投票を学習するように訓練した。
• 単数得票数、過半数行列、誠実な勝者など、6種類の限られた情報を入力として使用し、現実世界の不確実性を模倣した。
• 3〜6人の候補者と5〜21人の投票者を想定し、8つの投票手法（Borda、Plurality、Instant Runoff（IRV）、IRV-PUT、Stable Voting、Minimax、Split Cycle、Nanson）の性能を評価した。
• 利益性を、完全な情報を持つ理想の操作者との比較において、MLPの結果の効用の比として測定した。
• 学習成功の比較に統計解析を用い、投票手法、ネットワークサイズ、情報タイプの違いを検証した。
• 複数の構成で実験を行い、標準誤差を示すエラーバーを用いて結果を報告した。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークは、他の投票者の好みに関する部分的な情報のみを用いて、利益を上げられるように投票手法を学習的に操作できるか？
• RQ2 同じ情報条件の下で、異なる投票手法における学習された操作の利益性はどのように変化するか？
• RQ3 ニューラルネットワークのサイズが、効果的な操作戦略を学習する能力にどの程度相関しているか？
• RQ4 候補者数や投票者数といった要因が、操作の学習可能性にどのように影響するか？
• RQ5 操作の最悪ケース計算複雑性が高くても、実際の学習可能性は低いか？

主な発見

• Borda 投票は、過半数行列のみといった限られた情報でも、小さなニューラルネットワークによって極めて操作可能であり、実用的脆弱性が強いことが示された。
• IRV と IRV-PUT は、完全な情報を持つ理想の操作者にとってはより操作可能であるが、学習ベースの操作に対しては高い抵抗性を示した。
• Minimax と Split Cycle は、誠実な勝者や単数得票数しかわからなくても、操作に対して極めて強い抵抗性を示したが、過半数行列が与えられると MLP が理想の性能に近づくようになった。
• 候補者数が4〜5程度までは操作の利益性が上昇するが、5人を超えると MLP の性能と理想の操作者との比が低下し、複雑性が増す傾向が見られた。
• Borda は他の手法よりも、小さなニューラルネットワークがより効果的に操作を学習できることが示され、高度に操作可能なシステムでは学習のサンプル複雑性が低いことが示唆された。
• Nanson は計算がNP困難であるが、最大6人の候補者に対して過半数行列を入力とすれば学習可能であり、最悪ケースの複雑さと実際の学習可能性の間に乖離があることが示された。