[논문 리뷰] Learning to Manipulate under Limited Information

Wesley H. Holliday, Alexander Kristoffersen외 1명|arXiv (Cornell University)|2024. 01. 29.

Machine Learning and Algorithms인용 수 4

한 줄 요약

이 논문은 8개의 투표 방식에 대해 신경망을 훈련시켜 전략적 투표의 학습 가능성을 제한된 정보 하에서 조사한다. Borda와 같은 방법은 최소한의 정보가 있을 때조차도 매우 쉽게 조작 가능하며, 반면 IRV와 Minimax는 강한 저항성을 보이며, 이는 계산적 학습 가능성이 최악의 복잡도 이론을 초월해 실질적 조작 가능성을 드러낼 수 있음을 시사한다.

ABSTRACT

By classic results in social choice theory, any reasonable preferential voting method sometimes gives individuals an incentive to report an insincere preference. The extent to which different voting methods are more or less resistant to such strategic manipulation has become a key consideration for comparing voting methods. Here we measure resistance to manipulation by whether neural networks of various sizes can learn to profitably manipulate a given voting method in expectation, given different types of limited information about how other voters will vote. We trained over 100,000 neural networks of 26 sizes to manipulate against 8 different voting methods, under 6 types of limited information, in committee-sized elections with 5-21 voters and 3-6 candidates. We find that some voting methods, such as Borda, are highly manipulable by networks with limited information, while others, such as Instant Runoff, are not, despite being quite profitably manipulated by an ideal manipulator with full information. For the three probability models for elections that we use, the overall least manipulable of the 8 methods we study are Condorcet methods, namely Minimax and Split Cycle.

연구 동기 및 목표

• 기타 투표자들의 선호도에 대해 부분적인 정보만 제공받는 상황에서 기계 학습 모델이 수익성 있는 전략적 투표를 학습할 수 있는지 평가하는 것.
• 다양한 정보 유형과 선거 규모에서 다양한 투표 방식 간의 조작 학습 가능성 비교하기.
• 최악의 경우 계산 복잡도가 실질적 조작 학습 용이성과 관련이 있는지 평가하는 것.
• 후보자 수, 투표자 수, 정보 유형 등의 요소가 학습된 조작의 성공에 어떤 영향을 미치는지 탐색하는 것.
• 기존 이론적 결과를 보완하는 심층 학습을 활용한 조작에 대한 저항력을 측정하는 새로운 경험적 프레임워크 제공하기.

제안 방법

• 단일 조작자 대신 전략적 투표를 학습하도록 26종의 다양한 아키텍처를 가진 거의 40,000개의 다층 퍼셉트론(MLP)을 훈련시켰다.
• 다수의 투표자 선호도 정보를 시뮬레이션하기 위해 다수의 점수, 다수 행렬, 진정한 승자 정보 등 6종류의 제한된 정보를 입력으로 사용했다.
• 5~21명의 투표자와 3~6명의 후보자 하에서 8개의 투표 방식—Borda, Plurality, Instant Runoff(IRV), IRV-PUT, Stable Voting, Minimax, Split Cycle, Nanson—에 대해 평가했다.
• 수익성은 MLP의 결과 유틸리티를 완전한 정보를 가진 이상적인 조작자와의 유틸리티 비율로 측정했다.
• 다양한 투표 방식, 네트워크 크기, 정보 유형 간의 학습 성공률을 비교하기 위해 통계 분석을 수행했다.
• 다양한 설정에서 실험을 수행하고 표준 오차를 나타내는 오차 막대를 포함해 결과를 보고했다.

실험 결과

연구 질문

• RQ1 신경망은 다른 투표자들의 선호도에 대해 부분적인 정보만을 가지고 있을 때도 수익성 있는 투표 방식을 학습할 수 있는가?
• RQ2 동일한 정보 조건 하에서 다양한 투표 방식 간에 학습된 조작의 수익성이 어떻게 달라지는가?
• RQ3 신경망의 크기가 효과적인 조작 전략을 학습하는 능력과 얼마나 관련이 있는가?
• RQ4 후보자 수와 투표자 수 등의 요소가 조작 학습 가능성에 어떤 영향을 미치는가?
• RQ5 조작의 최악의 경우 계산 복잡도가 높은 경우 실질적으로 학습 가능성이 낮은가?

주요 결과

• Borda 투표는 다수 행렬만으로도 작은 신경망이 제한된 정보 하에서도 매우 쉽게 조작 가능하며, 실질적인 취약성이 높음을 시사한다.
• IRV와 IRV-PUT는 완전한 정보를 가진 이상적인 조작자에 의해 더 쉽게 조작 가능하지만, 학습 기반 조작에 대해선 높은 저항성을 보인다.
• Minimax와 Split Cycle은 진정한 승자나 다수 점수만 알려져 있을 경우 매우 강한 저항성을 보이지만, 다수 행렬이 제공되면 MLP가 이상적인 성능에 더 가까워진다.
• 후보자 수가 4~5명까지 증가할수록 조작의 수익성이 증가하지만, 5명을 초과하면 MLP 성능과 이상적 조작자 성능의 비율이 감소하여 복잡도가 증가함을 시사한다.
• 작은 신경망이 다른 방법들보다 Borda를 더 효과적으로 조작할 수 있음을 확인하여, 매우 조작 가능성이 높은 시스템에서는 조작 학습의 샘플 복잡도가 낮다는 것을 시사한다.
• Nanson는 계산이 NP-난이도이지만, 다수 행렬 정보가 제공되면 최대 6명의 후보자까지 학습 가능하며, 이는 최악의 복잡도와 실질적 학습 가능성 간의 괴리가 있음을 시사한다.