[논문 리뷰] Mechanism Design for Multi-Party Machine Learning

Mengjing Chen, Yang Liu외 4명|arXiv (Cornell University)|2020. 01. 24.

Auction Theory and Applications참고 문헌 30인용 수 15

한 줄 요약

이 논문은 다자간 기계학습에서 에이전트들이 상호의존적인 가치를 가지며, 과도하게 데이터 품질을 과장할 수 없는 제한된 행동 공간을 가진 메커니즘 설계 프레임워크를 제안한다. 준단조성 조건 하에서 진실성 있고 수익 최적의 메커니즘을 도입하며, 인센티브 호환성과 개인적 합리성에 필요한 필수 조건과 충분 조건을 제공한다. 이는 시장 성장률에 크게 의존한다.

ABSTRACT

In a multi-party machine learning system, different parties cooperate on optimizing towards better models by sharing data in a privacy-preserving way. A major challenge in learning is the incentive issue. For example, if there is competition among the parties, one may strategically hide his data to prevent other parties from getting better models. In this paper, we study the problem through the lens of mechanism design and incorporate the features of multi-party learning in our setting. First, each agent's valuation has externalities that depend on others' types and actions. Second, each agent can only misreport a type lower than his true type, but not the other way round. We call this setting interdependent value with type-dependent action spaces. We provide the optimal truthful mechanism in the quasi-monotone utility setting. We also provide necessary and sufficient conditions for truthful mechanisms in the most general case. Finally, we show the existence of such mechanisms is highly affected by the market growth rate and provide empirical analysis.

연구 동기 및 목표

• 경쟁하는 당사자들이 전략적으로 데이터를 은폐할 수 있는 다자간 기계학습의 인센티브 문제를 해결한다.
• 상호의존적인 가치와 유형 기반 행동 공간을 가진 새로운 설정을 모델링하며, 에이전트가 자신의 실제 데이터 품질을 과장할 수 없음을 가정한다.
• 일반적인 평가 함수 하에서 개인적 합리성, 인센티브 호환성, 약한 예산 균형을 보장하는 메커니즘을 제공한다.
• 시장 성장률이 바람직한 메커니즘의 존재에 미치는 영향을 분석한다.
• 이용자 이득 갭에서 유도된 최단경로 제약 조건을 사용하여 최적의 지불액을 계산하는 알고리즘을 설계한다.

제안 방법

• 에이전트가 과장할 수 없는 제한된 행동 공간을 가진 상호의존적 가치 설정으로 문제를 수립한다.
• 에이전트 $i$가 $t_i'$를 위조 보고할 때와 진실로 $t_i$를 보고할 때의 이득 차이를 캡처하기 위해 이득 갭 $Gap_i(t_i', t_i, t_{-i})$를 정의한다.
• 노드가 유형 프로파일을 나타내고, 간선이 이득 제약 조건을 표현하는 그래프에서 최단경로 계산 기반의 지불 시스템을 구축한다.
• 단일 소스 최단경로 알고리즘을 사용하여 개인적 합리성과 인센티브 호환성을 만족하는 최대 실현 가능한 지불액 $p_i^{max}(t_i, t_{-i})$를 계산한다.
• 총 지불액의 합이 0보다 작으면서도 약한 예산 균형, 효율성, 진실성 조건을 동시에 만족하는 메커니즘이 존재하는지 확인하기 위한 의사결정 알고리즘을 도입한다.
• 연속적인 데이터 크기를 다루기 위해 유형 공간을 크기 $\epsilon$의 간격으로 이산화하며, 모든 평가 함수가 공통 지식임을 가정한다.

실험 결과

연구 질문

• RQ1 상호의존적인 가치와 제한된 보고 방식이 있는 다자간 기계학습 환경에서, 진실성 있고 개인적 합리적이며 약한 예산 균형을 만족하는 메커니즘이 존재하는 조건은 무엇인가?
• RQ2 시장 성장률은 모든 바람직한 성질을 만족하는 메커니즘의 존재에 어떤 영향을 미치는가?
• RQ3 준단조성 이득 설정에서 인센티브 호환성을 보장하면서 수익을 최대화하는 최적의 지불 규칙은 무엇인가?
• RQ4 에이전트가 데이터 품질을 과장할 수 없는 상황에서 효율성과 진실성을 보장하는 메커니즘을 설계할 수 있는가?
• RQ5 복잡한 상호의존적 평가 함수 하에서 실현 가능한 최대 지불액을 계산하는 데 사용할 수 있는 알고리즘 기법은 무엇인가?

주요 결과

• 제안된 메커니즘은 준단조성 이득 설정에서 수익 최적화되고 진실성 있는 메커니즘으로, 최단경로 제약 조건을 통해 지불액이 계산된다.
• 진실성 있고 개인적 합리적인 메커니즘을 위한 필수 및 충분 조건이 도출되었으며, 이는 이득 갭 제약 조건과 지불 가능성을 기반으로 한다.
• 바람직한 메커니즘의 존재는 시장 성장률에 매우 민감하며, 성장률이 느릴 경우 이러한 메커니즘의 존재를 차단할 수 있다.
• 알고리즘적 접근은 메커니즘 설계 문제를 차분 제약 조건의 시스템으로 환원하며, 최단경로 계산을 통해 해결할 수 있다.
• 각 에이전트의 최대 지불액은 기본 노드에서 해당 유형 프로파일로의 최단경로에 의해 결정되며, 이는 모든 인센티브 제약 조건을 충족함을 보장한다.
• 모든 에이전트의 최대 지불액의 합이 음수일 경우, 개인적 합리성, 인센티브 호환성, 약한 예산 균형을 동시에 만족하는 메커니즘이 존재하지 않는다.