[논문 리뷰] Chat Control or Child Protection?

Ross Anderson|arXiv (Cornell University)|2022. 10. 11.

Homicide, Infanticide, and Child Abuse인용 수 6

한 줄 요약

이 논문은 영국과 유럽연합이 어린이 성범죄 및 테러리즘 유혹을 탐지하기 위해 암호화 메시지의 클라이언트 측 스캔을 의무화하려는 법안을 비판한다. 로스 앤더슨은 이러한 감시가 종단 간 암호화를 약화시키고 오용의 위험을 초래하며, 인간 권리와 실제 경찰 활동에 기반한 현지 주도의 多자기구적 접근법에서 정책적 관심을 끌어내는 데에 방해가 된다고 주장한다.

ABSTRACT

Ian Levy and Crispin Robinson's position paper "Thoughts on child safety on commodity platforms" is to be welcomed for extending the scope of the debate about the extent to which child safety concerns justify legal limits to online privacy. Their paper's context is the laws proposed in both the UK and the EU to give the authorities the power to undermine end-to-end cryptography in online communications services, with a justification of preventing and detecting of child abuse and terrorist recruitment. Both jurisdictions plan to make it easier to get service firms to take down a range of illegal material from their servers; but they also propose to mandate client-side scanning - not just for known illegal images, but for text messages indicative of sexual grooming or terrorist recruitment. In this initial response, I raise technical issues about the capabilities of the technologies the authorities propose to mandate, and a deeper strategic issue: that we should view the child safety debate from the perspective of children at risk of violence, rather than from that of the security and intelligence agencies and the firms that sell surveillance software. The debate on terrorism similarly needs to be grounded in the context in which young people are radicalised. Both political violence and violence against children tend to be politicised and as a result are often poorly policed. Effective policing, particularly of crimes embedded in wicked social problems, must be locally led and involve multiple stakeholders; the idea of using 'artificial intelligence' to replace police officers, social workers and teachers is just the sort of magical thinking that leads to bad policy. The debate must also be conducted within the boundary conditions set by human rights and privacy law, and to be pragmatic must also consider reasonable police priorities.

연구 동기 및 목표

• 종단 간 암호화 메시지의 클라이언트 측 스캔를 의무화하는 데 기반한 제안된 법률의 기술적 및 윤리적 가정을 도전하기 위해.
• 어린이 안전이라는 명목 하에 국가 및 기업 감시를 위한 강력한 암호화를 약화시키는 위험을 부각하기 위해.
• 정보기관과 기술 기업의 관점에서가 아니라 폭력의 위험에 노출된 어린이의 관점으로 정책 논의를 이동시키기 위해.
• 복잡한 사회적 범죄를 해결하기 위해 전문 경찰, 사회복지사, 교사의 역할을 대체하기 위해 인공지능을 사용하는 것을 반박하기 위해.
• 효과적인 어린이 보호는 현지 주도의 다자기구적 접근이어야 하며, 인간 권리 및 개인정보 보호법에 구속되어야 한다는 점을 강조하기 위해.

제안 방법

• 종단 간 암호화 메시지 플랫폼에서 텍스트 기반의 유혹 및 테러리즘 홍보를 탐지하기 위한 클라이언트 측 스캔의 기술적 타당성과 위험을 분석한다.
• 사용자 콘텐츠가 암호화되기 이전에 스캔을 의무화하는 영국 및 유럽연합의 법안이 미치는 영향을 검토한다.
• 실제 어린이 학대 및 급진화 사례를 바탕으로 이러한 범죄들이 복잡한 사회 문제에 뿌리를 두고 있으며, 정교한 인간 주도 대응이 필요하다고 주장한다.
• 자동화된 시스템이 학대나 유혹을 식별하는 데 있어 전문가의 판단을 대체할 수 있다는 가정을 비판한다.
• 개인정보 보호 설계의 중요성과, 어린이 안전을 위한 목적이라도 백도어의 위험을 강조한다.
• 정책은 인간 권리법을 존중하고 실제 경찰 수사 우선순위와 능력에 부합해야 한다는 점을 강조한다.

실험 결과

연구 질문

• RQ1 종단 간 암호화 메시지 플랫폼에서 클라이언트 측 스캔를 의무화할 경우 발생하는 기술적 및 제도적 위험은 무엇인가?
• RQ2 어린이 보호를 위한 제안된 감시 모델은 효과적이고 현지 주도의 다자기구적 접근 방식과 어떻게 비교되는가?
• RQ3 어린이 학대와 테러리즘 문제의 정치화가 효과적인 경찰 수사 및 어린이 보호를 어떻게 약화시키는가?
• RQ4 개인정보 침해나 오류 경고를 일으키지 않으면서도 인공지능이나 자동화 시스템이 얼마나 신뢰성 있게 유혹이나 급진화를 탐지할 수 있는가?
• RQ5 어떻게 하면 어린이 보호 정책을 국가 및 기업 감시 중심에서 실제로 위험에 노출된 어린이의 필요에 맞게 재편할 수 있는가?

주요 결과

• 암호화된 메시지의 클라이언트 측 스캔는 오용 가능성, 적대자에 의한 악용 가능성, 전체 시스템 보안의 약화를 초래하는 중대한 기술적 위험을 수반한다.
• 제안된 법안은 종단 간 암호화를 약화시킬 위험이 있으며, 이는 잘못된 혐의를 받는 자들뿐만 아니라 모든 사용자의 개인정보 및 안전을 보호하는 데 필수적이다.
• 자동화된 시스템은 어린이 학대를 식별하고 대응하는 데 있어 경찰, 사회복지사, 교사 등 전문가의 정교한 판단을 대체할 수 없다.
• 어린이 보호는 복잡하고 해결하기 어려운 사회 문제이며, 상향식 기술적 의무화가 아니라 현지 주도의 다자기구적 대응이 필요하다.
• 논의는 정보기관이나 감시 계약자들의 우선순위가 아니라 위험에 노출된 어린이들의 실제 경험에 기반해야 한다.
• 모든 정책는 인간 권리법의 범위 내에 있어야 하며, 실제 경찰 수사 우선순위와 능력과 실질적으로 조율되어야 한다.