[论文解读] Responsible Facial Recognition and Beyond

Yi Zeng, Enmeng Lu+2 more|arXiv (Cornell University)|Sep 19, 2019

Biometric Identification and Security参考文献 9被引用 15

一句话总结

本文通过分析伦理风险、监管框架和技术防护措施，倡导负责任地发展面部识别及更广泛的生物识别技术。它提出一种结合政策、技术创新与社会参与的跨学科方法，以确保生物识别系统服务于社会福祉，同时减轻偏见、监控和隐私侵犯等危害。

ABSTRACT

Facial recognition is changing the way we live in and interact with our society. Here we discuss the two sides of facial recognition, summarizing potential risks and current concerns. We introduce current policies and regulations in different countries. Very importantly, we point out that the risks and concerns are not only from facial recognition, but also realistically very similar to other biometric recognition technology, including but not limited to gait recognition, iris recognition, fingerprint recognition, voice recognition, etc. To create a responsible future, we discuss possible technological moves and efforts that should be made to keep facial recognition (and biometric recognition in general) developing for social good.

研究动机与目标

• 探讨面部识别对社会产生的双重影响，包括隐私、监控和偏见方面的担忧。
• 分析现有国家和国际政策及法规对生物识别技术的监管情况。
• 强调风险不仅限于面部识别，还延伸至其他生物识别模式，如步态、虹膜、指纹和语音识别。
• 通过技术、伦理和政策驱动措施，提出负责任发展生物识别系统的框架。
• 倡导通过主动治理与创新，将生物识别技术用于社会福祉，同时最大限度减少危害。

提出的方法

• 对当前生物识别技术及其共有的伦理挑战进行比较分析。
• 调查并综合现有国家和国际层面与生物识别数据使用相关的政策和法规。
• 识别生物识别系统中的共同风险，包括隐私侵犯、算法偏见以及权力机构的滥用。
• 提出一种整合技术改进、监管标准与公众监督的跨学科方法。
• 强调在生物识别系统的设计与部署中，透明度、问责制与公平性的重要性。
• 倡导技术专家、政策制定者与公民社会之间在跨领域合作，以推动负责任的创新。

实验结果

研究问题

• RQ1 面部识别及其他生物识别技术主要关联哪些伦理与社会风险？
• RQ2 现有国家和国际法规在多大程度上应对了公共与私营部门中生物识别数据的使用问题？
• RQ3 面部识别的风险在多大程度上能代表更广泛生物识别系统面临的挑战？
• RQ4 可实施哪些技术与政策措施，以确保生物识别技术服务于社会福祉？
• RQ5 利益相关方如何协作，以开发既能保护隐私又能防止滥用的责任生物识别系统？

主要发现

• 面部识别及其他生物识别技术在隐私、监控和系统性偏见方面存在重大风险。
• 各国的监管框架差异显著，目前尚无全球统一的生物识别数据治理标准。
• 风险并非面部识别独有，其他模式如步态、虹膜、指纹和语音识别也面临类似问题。
• 负责任的发展需要技术防护措施、透明政策与包容性治理的结合。
• 技术专家、政策制定者与公民社会的主动协作对于防止滥用并确保公平结果至关重要。
• 本文结论认为，只有在强有力的伦理与监管监督下，生物识别技术才能真正支持社会福祉。