[论文解读] Provably Manipulation-Resistant Reputation Systems

Paul F. Christiano|arXiv (Cornell University)|Nov 5, 2014

Auction Theory and Applications参考文献 12被引用 3

一句话总结

本文提出了一种可证明抗操纵的声誉系统，使诚实用户在大规模对抗性在线社区中能够实现近乎最优的集体福利。通过在正定矩阵上使用在线学习，并结合对称信任度量与相互义务追踪机制，该协议确保任何诚实用户群体的表现几乎等同于他们仅在彼此之间互动的情况，且每位用户的成本为次线性，与社区规模无关，同时对对抗性操纵具有鲁棒性，即使在反馈存在噪声和互动频率极低的情况下亦成立。

ABSTRACT

We consider a community of users who must make periodic decisions about whether to interact with one another. We propose a protocol which allows honest users to reliably interact with each other, while limiting the damage done by each malicious or incompetent user. The worst-case cost per user is sublinear in the average number of interactions per user and is independent of the number of users. Our guarantee holds simultaneously for every group of honest users. For example, multiple groups of users with incompatible tastes or preferences can coexist. As a motivating example, we consider a game where players have periodic opportunities to do one another favors but minimal ability to determine when a favor was done. In this setting, our protocol achieves nearly optimal collective welfare while remaining resistant to exploitation. Our results also apply to a collaborative filtering setting where users must make periodic decisions about whether to interact with resources such as movies or restaurants. In this setting, we guarantee that any set of honest users achieves a payoff nearly as good as if they had identified the optimal set of items in advance and then chosen to interact only with resources from that set.

研究动机与目标

• 设计一种声誉系统，使诚实用户在存在恶意或无能用户的情况下，仍能可靠地互动并实现高集体福利。
• 保证每个诚实用户群体的收益几乎等同于他们预先识别并隔离不诚实用户的情况。
• 确保性能保证与总用户数无关，并对对抗性协调、噪声反馈和最低互动频率具有鲁棒性。
• 提供一种协议，即使反馈模糊且用户无法可靠验证恩惠是否真正履行，仍能保持有效性。
• 探索在缺乏完全激励相容性的环境中实现此类保证的可行性，承认由于Myerson-Satterthwaite等不可能性结果而存在的固有权衡。

提出的方法

• 该协议使用正定矩阵上的在线学习，迭代更新用户之间的对称信任度量。
• 引入一种非平凡的相互义务追踪系统，确保信任通过相互互动而获得并得以维持。
• 该系统假设可访问可验证身份、广播通信和共享随机信标——这些条件可通过密码原原子或可信第三方替代。
• 将互动建模为若干轮次，每轮随机选择一对用户，双方独立决定是否互动，收益根据结果确定。
• 该协议确保诚实用户的总收益趋近于反事实基准OPT，即他们仅在彼此之间互动时所能获得的收益。
• 在存在转移的场景中，该协议支持盈余共享和不对称互动的对称化，从而提升效率与公平性。

实验结果

研究问题

• RQ1 声誉系统能否确保诚实用户即使在多数用户为恶意或操纵性时，仍能实现近乎最优的集体福利？
• RQ2 是否可能设计一种协议，其性能保证与总用户数无关，并同时适用于所有诚实用户子集？
• RQ3 如何以一种抗操纵的方式维护和度量信任，特别是在反馈存在噪声或与欺骗难以区分的情况下？
• RQ4 在已知双边交换中存在不可能性结果的前提下，能否在不依赖激励相容性的前提下构建此类系统？
• RQ5 哪些机制可以限制Sybil攻击或多个不诚实身份创建所造成的损害？

主要发现

• 该协议保证，在kN轮后，每位诚实用户的平均收益达到αεk − O(ρk²ᐟ³/α)，与诚实用户仅在彼此之间互动的反事实基准相比近乎最优。
• 最坏情况下每位诚实用户的成本在每位用户的平均互动次数上为次线性，且与总用户数无关，确保可扩展性。
• 即使反馈存在噪声，且真实恩惠、虚假声明与被拒绝的益处难以区分，系统仍能维持强大的性能保证。
• 该协议对不诚实用户之间的对抗性协调具有鲁棒性，即使互动稀少且信任难以验证，仍能保持有效性。
• 该系统可作为子程序与其他协议组合使用，在更大、更复杂的系统中保持正确性与性能保证。
• 尽管由于根本性不可能性结果（如Myerson-Satterthwaite）而无法实现激励相容性，但该协议在不可避免存在此类权衡的环境中，提供了一种实用且可证明鲁棒的替代方案。