[论文解读] Understanding Ethics, Privacy, and Regulations in Smart Video Surveillance for Public Safety

Babak Rahimi Ardabili, Armin Danesh Pazho+4 more|arXiv (Cornell University)|Dec 25, 2022

Privacy, Security, and Data Protection被引用 4

一句话总结

本文提出了一种保护隐私的智能视频监控（SVS）系统，通过四重视角设计框架——算法、系统、模型和数据——解决伦理与隐私挑战，采用基于姿态的AI、本地处理、不可逆数据，并排除个人身份信息（PII）。该系统在最大限度降低隐私风险的同时，实现功能性公共安全监控，为伦理化SVS部署提供基准。

ABSTRACT

Recently, Smart Video Surveillance (SVS) systems have been receiving more attention among scholars and developers as a substitute for the current passive surveillance systems. These systems are used to make the policing and monitoring systems more efficient and improve public safety. However, the nature of these systems in monitoring the public's daily activities brings different ethical challenges. There are different approaches for addressing privacy issues in implementing the SVS. In this paper, we are focusing on the role of design considering ethical and privacy challenges in SVS. Reviewing four policy protection regulations that generate an overview of best practices for privacy protection, we argue that ethical and privacy concerns could be addressed through four lenses: algorithm, system, model, and data. As an case study, we describe our proposed system and illustrate how our system can create a baseline for designing a privacy perseverance system to deliver safety to society. We used several Artificial Intelligence algorithms, such as object detection, single and multi camera re-identification, action recognition, and anomaly detection, to provide a basic functional system. We also use cloud-native services to implement a smartphone application in order to deliver the outputs to the end users.

研究动机与目标

• 解决用于公共安全的智能视频监控（SVS）系统中固有的伦理与隐私挑战。
• 开发一种在系统层面内嵌隐私与伦理考量的设计框架，而非作为事后补充。
• 构建一个功能完整、端到端的SVS原型，避免使用人脸识别和个人身份信息（PII）。
• 展示技术设计选择如何在维持公共安全功能的同时缓解隐私风险。
• 为未来具备伦理稳健性与隐私保护能力的SVS系统建立基准。

提出的方法

• 采用基于姿态的AI算法，而非人脸识别，以避免识别个体。
• 在本地服务器上处理所有视频数据，防止数据传输并降低隐私暴露风险。
• 使用在线学习实现再识别，使数据不可逆，防止原始数据的重建。
• 通过云原生智能手机应用程序提供实时警报与分析，不存储原始视频。
• 围绕四个视角设计系统：算法（基于姿态）、系统（本地处理）、模型（不可逆数据）和数据（无PII）。
• 集成多个AI组件：目标检测、单/多摄像头再识别、行为识别和异常检测。

实验结果

研究问题

• RQ1 如何通过系统设计而非仅依赖政策，系统性地解决智能视频监控中的伦理与隐私问题？
• RQ2 在不依赖人脸识别或存储个人身份信息（PII）的前提下，SVS系统能在多大程度上保护隐私？
• RQ3 哪些技术设计选择能够实现公共安全功能与个人隐私保护之间的平衡？
• RQ4 如何架构系统以实现种族、性别和年龄上的内在中立性？
• RQ5 一个保护隐私的SVS系统是否能在牺牲准确性的前提下，维持功能性表现，以符合伦理合规要求？

主要发现

• 所提出的系统成功实现了无需使用人脸识别或存储原始视频数据的功能性端到端智能视频监控流程。
• 通过采用基于姿态的算法和本地服务器处理，系统避免了PII的使用，并降低了数据泄露和未经授权追踪的风险。
• 该系统的设计确保数据无法被逆向恢复以重建原始图像或身份，满足核心隐私要求。
• 由于缺乏面部特征和生物特征数据，系统在设计上对种族、性别和年龄具有内在中立性，降低了算法偏见的风险。
• 当前原型优先考虑隐私而非峰值准确性，表明为维护伦理标准而主动做出的权衡。
• 该系统可部署于城市中心、校园和交通枢纽等公共区域，提供可扩展的、保护隐私的传统监控替代方案。