[논문 리뷰] Personhood credentials: Artificial intelligence and the value of privacy-preserving tools to distinguish who is real online

Steven Adler, Zoë Hitzig외 30명|arXiv (Cornell University)|2024. 08. 15.

Ethics and Social Impacts of AI인용 수 7

한 줄 요약

본 논문은 사용자가 실제 인물임을 신원을 드러내지 않고도 증명하는 프라이버시 보호 디지털 자격 증명인 PHCs(personhood credentials)를 제안하여 프라이버시를 유지하면서 AI 기반 온라인 속임수에 대응한다.

ABSTRACT

Anonymity is an important principle online. However, malicious actors have long used misleading identities to conduct fraud, spread disinformation, and carry out other deceptive schemes. With the advent of increasingly capable AI, bad actors can amplify the potential scale and effectiveness of their operations, intensifying the challenge of balancing anonymity and trustworthiness online. In this paper, we analyze the value of a new tool to address this challenge: "personhood credentials" (PHCs), digital credentials that empower users to demonstrate that they are real people -- not AIs -- to online services, without disclosing any personal information. Such credentials can be issued by a range of trusted institutions -- governments or otherwise. A PHC system, according to our definition, could be local or global, and does not need to be biometrics-based. Two trends in AI contribute to the urgency of the challenge: AI's increasing indistinguishability from people online (i.e., lifelike content and avatars, agentic activity), and AI's increasing scalability (i.e., cost-effectiveness, accessibility). Drawing on a long history of research into anonymous credentials and "proof-of-personhood" systems, personhood credentials give people a way to signal their trustworthiness on online platforms, and offer service providers new tools for reducing misuse by bad actors. In contrast, existing countermeasures to automated deception -- such as CAPTCHAs -- are inadequate against sophisticated AI, while stringent identity verification solutions are insufficiently private for many use-cases. After surveying the benefits of personhood credentials, we also examine deployment risks and design challenges. We conclude with actionable next steps for policymakers, technologists, and standards bodies to consider in consultation with the public.

연구 동기 및 목표

• 프라이버시와 시민적 자유를 훼손하지 않으면서 AI 기반 온라인 속임수에 대응할 필요성을 제시한다.
• PHCs(personhood credentials)의 개념과 기초 요건을 정의한다.
• PHCs가 소켓푸핑, 봇 네트워크, AI 에이전트의 오해표현을 어떻게 줄일 수 있는지 주장한다.
• PHCs를 기존 대책과 비교하고 배치 도전 과제 및 거버넌스 고려사항을 식별한다.
• PHCs를 발전시키기 위한 정책 입안자, 기술자, 표준 기구를 위한 실행 가능한 단계들을 제시한다.

제안 방법

• 식별 불가능성 및 확장성 측면에서 온라인 속임수와 AI 주도 위협의 현황을 조사한다.
• PHCs를 정의하고 두 가지 기초 요건을 형식화한다: 자격 한계와 연결 불가한 가명성.
• PHCs를 익명 자격 증명 및 인물 증명 개념의 더 넓은 생태계 내에 위치시킨다.
• PHCs가 기존 대책(CAPTCHAs, 경제적 장벽, AI 콘텐츠 탐지, 외모/문서 검증)과 어떻게 보완하거나 개선되는지 평가한다.
• 공정한 접근성, 표현의 자유, 권력에 대한 견제, 공격에 대한 강건성 등을 포함한 설계, 거버넌스 및 배치 고려사항을 개요한다.

실험 결과

연구 질문

• RQ1 PHCs(personhood credentials)가 무엇이며 신원을 밝히지 않고도 실인칭 상호작용을 신호하는 데 어떻게 사용될 수 있는가?
• RQ2 PHCs가 사용자 프라이버시와 서비스 간 비연결성을 유지하면서 AI 주도 속임수를 어떻게 다룰 수 있는가?
• RQ3 PHCs를 효과적이고 안전하게 배포하기 위한 주요 설계 요건과 거버넌스 고려사항은 무엇인가?
• RQ4 속임수 대응에서 PHCs가 기존 도구(CAPTCHAs, 유료 접근, 콘텐츠 워터마킹, 생체 인증)와 어떤 비교를 보이는가?
• RQ5 정책 입안자, 기술자, 표준 기구가 PHCs를 파일럿하고 채택하기 위해 취해야 할 구체적인 조치는 무엇인가?

주요 결과

• PHCs는 연결 불가한 가명 및 자격 한계를 통해 신원을 밝히지 않으면서 개인별 검증을 가능하게 한다.
• PHCs는 암호학적 증명을 활용하여 실제 인간과 AI 기반 행위자를 구분하고, 식별 불가성 및 확장성 문제를 모두 해결하는 데 기여한다.
• PHCs는 CAPTCHAs나 생체 인식 검사와 같은 전통적 방법보다 소켓푸핑, 봇 공격, AI 에이전트의 허위 진술을 보다 강력하게 완화할 수 있다.
• PHCs는 기존 대책을 보완하되 대체하지 않으며, 프라이버시를 보호하는 이점과 신중한 설계가 필요한 잠재적 취약점을 강조한다.
• 본 논문은 공평한 접근, 표현의 자유 보호, 권력 견제 등 거버넌스 및 배치의 도전을 개요하고 공공 이해관계자들을 위한 차기 단계 조치를 제안한다.
• 다발 발급자 생태계와 오프라인 검증 구성요소를 강조하여 자격 증명 위조를 방지하고 강건성을 높인다.

Figure 1 : Personhood credentials rely on two deficits of AI.