[논문 리뷰] Provably Manipulation-Resistant Reputation Systems

Paul F. Christiano|arXiv (Cornell University)|2014. 11. 05.

Auction Theory and Applications참고 문헌 12인용 수 3

한 줄 요약

이 논문은 대규모 악성 온라인 공동체에서 솔직한 사용자가 거의 최적의 집단 복지를 달성할 수 있도록 보장하는 증명 가능하게 조작에 강한 신뢰도 시스템을 제안한다. 양의 정부호 행렬 위에서의 온라인 학습과 대칭적 신뢰도 측정법, 상호 의무 추적을 결합한 프로토콜은, 어떤 집단의 솔직한 사용자도 실제로 상호 간에만 상호작용했다면 달성할 수 있었을 성과과 거의 동일한 성과를 내며, 공동체 규모와 무관하게 사용자당 비용이 선형 이하로 유지되고, 악성 조작에 강건하며, 노이즈가 있는 피드백과 최소한의 상호작용 조건에서도 성능을 유지를 한다.

ABSTRACT

We consider a community of users who must make periodic decisions about whether to interact with one another. We propose a protocol which allows honest users to reliably interact with each other, while limiting the damage done by each malicious or incompetent user. The worst-case cost per user is sublinear in the average number of interactions per user and is independent of the number of users. Our guarantee holds simultaneously for every group of honest users. For example, multiple groups of users with incompatible tastes or preferences can coexist. As a motivating example, we consider a game where players have periodic opportunities to do one another favors but minimal ability to determine when a favor was done. In this setting, our protocol achieves nearly optimal collective welfare while remaining resistant to exploitation. Our results also apply to a collaborative filtering setting where users must make periodic decisions about whether to interact with resources such as movies or restaurants. In this setting, we guarantee that any set of honest users achieves a payoff nearly as good as if they had identified the optimal set of items in advance and then chosen to interact only with resources from that set.

연구 동기 및 목표

• 악성 또는 무능한 사용자가 존재하는 대규모 온라인 공동체에서도 솔직한 사용자가 신뢰할 수 있게 상호작용하고 높은 집단 복지를 달성할 수 있도록 하는 신뢰도 시스템을 설계하는 것.
• 모든 솔직한 사용자 집단이 솔직한 사용자들 간에 사전에 식별하고 고립했을 경우와 거의 동일한 보상을 달성할 수 있도록 보장하는 것.
• 총 사용자 수에 종속되지 않으며, 악성 조율, 노이즈 있는 피드백, 최소한의 상호작용 빈도에 대해 강건한 성능 보장을 확보하는 것.
• 피드백이 모호하고 사용자가 실제로 이권이 이행되었는지 신뢰할 수 없는 상황에서도 효과적으로 작동하는 프로토콜을 제공하는 것.
• 완전한 인센티브 호환성 없이도 이러한 보장을 달성할 수 있는지 탐색하며, 이중 거래에서 알려진 불가능성 결과(예: Myerson-Satterthwaite)로 인한 본질적 트레이드오프를 인정하는 것.

제안 방법

• 프로토콜은 사용자 간의 대칭적 신뢰도를 반복적으로 업데이트하기 위해 양의 정부호 행렬 위에서의 온라인 학습을 사용한다.
• 서로의 상호작용을 통해 신뢰를 획득하고 유지하는 데 기여하는 비트리비얼한 상호 의무 추적 체계를 도입한다.
• 검증 가능한 신원, 브로드캐스트 통신, 공유된 난수 비콘에 대한 액세스를 가정하며, 이 조건들은 암호 기반 원리나 신뢰할 수 있는 제3자에 의해 대체 가능하다.
• 상호작용를 라운드 단위로 모델링하며, 쌍의 사용자가 선택되고 각자가 독립적으로 상호작용 여부를 결정하며, 결과에 따라 보상을 받는다.
• 프로토콜은 솔직한 사용자들의 총 보상이, 솔직한 사용자들 간에만 상호작용했을 경우의 기준값 OPT에 수렴하도록 보장한다.
• 이전에 이전의 전달이 가능한 설정에서는 잉여 공유와 비대칭 상호작용의 대칭화를 허용하여 효율성과 공정성을 향상시킨다.

실험 결과

연구 질문

• RQ1 악성 또는 조작 가능성이 있는 사용자 비율이 높은 환경에서, 신뢰도 시스템이 솔직한 사용자가 거의 최적의 집단 복지를 달성할 수 있도록 보장할 수 있는가?
• RQ2 총 사용자 수에 종속되지 않으며, 모든 솔직한 사용자 하위집단에 대해 동시에 성능 보장이 유지되는 프로토콜을 설계할 수 있는가?
• RQ3 피드백이 노이즈가 많거나 진짜 이권, 거짓 주장, 거부된 혜택과 구분되지 않을 경우, 신뢰는 어떻게 유지되고 측정할 수 있는가?
• RQ4 이중 거래에서 알려진 불가능성 결과가 존재하는 바, 인센티브 호환성에 의존하지 않고도 그러한 시스템을 구성할 수 있는가?
• RQ5 Sybil 공격 또는 다수의 악성 신원 생성으로 인한 피해를 줄이기 위한 메커니즘은 무엇인가?

주요 결과

• 프로토콜은 kN라운드 이후 평균 솔직한 사용자가 αεk − O(ρk²ᐟ³/α)의 보상을 달성함을 보장하며, 이는 솔직한 사용자들 간에만 상호작용했을 경우의 기준값과 거의 최적이다.
• 최악의 경우 사용자당 비용은 평균 상호작용 빈도에 대해 선형 이하이며 총 사용자 수와 무관하여 확장성이 보장된다.
• 피드백이 노이즈가 많고 진짜 이권, 거짓 주장, 거부된 혜택 간에 구분이 어려운 상황에서도 시스템은 강력한 성능 보장을 유지한다.
• 악성 사용자 간의 악성 조율에 대해 강건하며, 상호작용이 드물고 신뢰가 검증하기 어려운 상황에서도 효과성을 유지한다.
• 이 시스템은 다른 프로토콜을 서브루틴으로 조합해도 전체 시스템의 정확성과 성능 보장을 유지할 수 있다.
• 기본적인 불가능성 결과(예: Myerson-Satterthwaite)로 인해 인센티브 호환성이 보장되지 않지만, 이러한 트레이드오프가 피할 수 없는 환경에서 실용적이고 증명 가능하게 강건한 대안을 제공한다.