[論文レビュー] Provably Manipulation-Resistant Reputation Systems

Paul F. Christiano|arXiv (Cornell University)|Nov 5, 2014

Auction Theory and Applications参考文献 12被引用数 3

ひとこと要約

本稿では、悪意あるオンラインコミュニティにおいても誠実なユーザーが近似的に最適な集団的福祉を達成できる、証明可能に操作に強いレピュテーションシステムを提案する。正定値行列上のオンライン学習と、対称的信頼尺度に加え、相互義務の追跡を組み合わせることで、いかなる誠実なユーザーのグループも、自分たちだけが相互にやり取りしていた場合とほぼ同等の成果を上げられることを保証する。ユーザーあたりのコストはコミュニティの規模に依存せず、サブ線形的であり、ノイズのあるフィードバックや最小限の相互作用に対しても、攻撃的攻撃に対して耐性がある。

ABSTRACT

We consider a community of users who must make periodic decisions about whether to interact with one another. We propose a protocol which allows honest users to reliably interact with each other, while limiting the damage done by each malicious or incompetent user. The worst-case cost per user is sublinear in the average number of interactions per user and is independent of the number of users. Our guarantee holds simultaneously for every group of honest users. For example, multiple groups of users with incompatible tastes or preferences can coexist. As a motivating example, we consider a game where players have periodic opportunities to do one another favors but minimal ability to determine when a favor was done. In this setting, our protocol achieves nearly optimal collective welfare while remaining resistant to exploitation. Our results also apply to a collaborative filtering setting where users must make periodic decisions about whether to interact with resources such as movies or restaurants. In this setting, we guarantee that any set of honest users achieves a payoff nearly as good as if they had identified the optimal set of items in advance and then chosen to interact only with resources from that set.

研究の動機と目的

• 悪意あるまたは無能なユーザーが存在する中でも、誠実なユーザーが信頼できる相互作用を行い、高い集団的福祉を達成できるレピュテーションシステムを設計すること。
• すべての誠実なユーザーのグループが、事前に不誠実なユーザーから分離していた場合とほぼ同等の報酬を得られることを保証すること。
• 全ユーザー数に依存しない性能保証を提供し、悪意ある協調、ノイズのあるフィードバック、最小限の相互作用頻度に対しても耐性を持つこと。
• フィードバックが曖昧で、ユーザーが実際に便宜が果たされたかどうかを信頼して確認できない状況でも、効果的なプロトコルを提供すること。
• 完全なインcentive compatibilityが保証されない状況でも、このような保証が達成可能かどうかを検討し、Myerson-Satterthwaiteのような不可能性結果に起因する根本的トレードオフを認識すること。

提案手法

• プロトコルは、ユーザー間の対称的信頼を反復的に更新するため、正定値行列上のオンライン学習を用いる。
• 相互作用を通じて信頼が獲得され、維持される非自明な相互義務の追跡システムを導入する。
• 検証可能な身元、ブロードキャスト通信、共有ランダムビーコンへのアクセスを仮定しているが、これらは暗号的プリミティブや信頼できる第三者によって置き換え可能である。
• 相互作用をラウンドごとにモデル化し、ペアのユーザーが選ばれ、それぞれが独立に相互作用するかどうかを決定し、結果に応じて報酬を得る。
• プロトコルは、誠実なユーザーの総報酬が、彼らが自分たちだけで相互作用していた場合の反事後ベンチマークOPTに近づくことを保証する。
• 移転が可能な状況では、余剰の分配と非対称的相互作用の対称化を可能にし、効率性と公平性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 悪意あるまたは操作的なユーザーが大多数を占める状況でも、レピュテーションシステムが誠実なユーザーが近似的に最適な集団的福祉を達成できることを保証できるか？
• RQ2 全ユーザー数に依存せず、すべての誠実なユーザーのサブセットに対して同時に成り立つ性能保証を持つプロトコルを設計することは可能か？
• RQ3 フィードバックがノイズが多く、本物の便宜、偽の主張、拒否された利益と区別がつかない状況でも、信頼を維持・測定する方法は何か？
• RQ4 既知の不可能性結果（例：Myerson-Satterthwaite）を踏まえ、双方向取引におけるインcentive compatibilityに依存せずに、このようなシステムを構築することは可能か？
• RQ5 Sybil攻撃や複数の不誠実なアイデンティティの作成による損害を制限するメカニズムは何か？

主な発見

• プロトコルは、kNラウンド経過後、平均的な誠実なユーザーが αεk − O(ρk²ᐟ³/α) の報酬を得られることを保証する。これは、誠実なユーザーが自分たちだけで相互作用していた場合の反事後ベンチマークとほぼ同等の水準であり、近似的に最適である。
• 最悪ケースのユーザーあたりコストは、ユーザーあたりの平均相互作用回数に対してサブ線形的であり、全ユーザー数に依存しない。これによりスケーラビリティが保証される。
• フィードバックがノイズが多く、本物の便宜、偽の主張、拒否された利益の間で区別がつかない状況でも、システムは強い性能保証を維持する。
• 悪意あるユーザー間の協調に対してもプロトコルは耐性があり、相互作用が稀で信頼が検証しにくい状況でも効果を発揮する。
• 他のプロトコルをサブルーチンとして組み込むことができるため、より大規模で複雑なシステムにおいても正しさと性能保証を維持できる。
• Myerson-Satterthwaiteのような根本的な不可能性結果により、インcentive-compatibleではないが、このようなトレードオフが避けられない状況においても、実用的で証明可能に頑健な代替手段を提供する。